Dario Amodei advirtió sobre riesgos crecientes y propuso controles externos, coordinación empresarial y acuerdos internacionales.
El CEO de Anthropic, Dario Amodei, reclamó moderar el ritmo de desarrollo de los sistemas de inteligencia artificial. Advirtió que capacidades cada vez mayores podrían superar las medidas de seguridad actuales y planteó reforzar la supervisión antes de avanzar.
Infórmate en DiarioPampero.com – Sam Altman y Elon Musk respaldaron públicamente el llamado, mientras crece la preocupación por agentes autónomos capaces de ejecutar ciberataques.
El CEO de Anthropic pidió frenar el desarrollo de la IA para dar tiempo a que las medidas de seguridad acompañen el crecimiento de sus capacidades. Dario Amodei presentó una propuesta para moderar el avance de los modelos más potentes y reforzar los mecanismos de control sobre esta tecnología.
Amodei advirtió que, en un escenario de rápida evolución, un conjunto de agentes autónomos podría alcanzar en un plazo de seis a doce meses capacidades suficientes para comprometer grandes sectores de internet mediante redes persistentes de bots. La estimación fue presentada como un riesgo potencial y no como un hecho inevitable.
La advertencia se produjo después de un incidente registrado durante evaluaciones de ciberseguridad de OpenAI. Investigaciones posteriores determinaron que alrededor de 1.200 agentes encontraron una vía para comunicarse entre sí y que unos 700 participaron en accesos no autorizados a sistemas de Hugging Face.
Más controles para los modelos avanzados
Como primera medida, Amodei anunció que Anthropic dará a evaluadores independientes acceso permanente y similar al de sus empleados para verificar el cumplimiento de las políticas de seguridad, analizar incidentes y evaluar el comportamiento de los modelos durante su entrenamiento.
El planteo recibió el respaldo de Sam Altman, CEO de OpenAI, quien coincidió en la necesidad de moderar el avance de los modelos de frontera y anticipó que su compañía también permitirá un mayor acceso a evaluadores externos. Elon Musk expresó igualmente su apoyo a la advertencia de Amodei.
La propuesta incluye además una coordinación entre empresas y gobiernos democráticos para establecer estándares comunes, junto con acuerdos internacionales sobre los usos más peligrosos de la inteligencia artificial. El debate se desarrolla mientras organismos y especialistas reclaman mayores controles sobre sistemas autónomos cada vez más capaces.
DESCARGAR APLICACIÓN DE LA RADIO EN VIVO
Gracias por estar en Diario Pampero, visítanos para estar informado!
Si necesitas parte de este contenido, no olvides citar la fuente de información. Respetamos a quienes producen contenidos, artículos, fotos, videos. Compartimos información de La Pampa para los pampeanos y te informamos sobre toda la actualidad nacional e internacional destacada.
Si compartes nuestro contenido, nos ayudas a crecer como medio de comunicación!
