Dario Amodei advirtió sobre riesgos crecientes y propuso controles externos, coordinación empresarial y acuerdos internacionales.
El CEO de Anthropic, Dario Amodei, reclamó moderar el ritmo de desarrollo de los sistemas de inteligencia artificial. Advirtió que capacidades cada vez mayores podrían superar las medidas de seguridad actuales y planteó reforzar la supervisión antes de avanzar.
Infórmate en DiarioPampero.com – Sam Altman y Elon Musk respaldaron públicamente el llamado, mientras crece la preocupación por agentes autónomos capaces de ejecutar ciberataques.
El CEO de Anthropic pidió frenar el desarrollo de la IA para dar tiempo a que las medidas de seguridad acompañen el crecimiento de sus capacidades. Dario Amodei presentó una propuesta para moderar el avance de los modelos más potentes y reforzar los mecanismos de control sobre esta tecnología.
Amodei advirtió que, en un escenario de rápida evolución, un conjunto de agentes autónomos podría alcanzar en un plazo de seis a doce meses capacidades suficientes para comprometer grandes sectores de internet mediante redes persistentes de bots. La estimación fue presentada como un riesgo potencial y no como un hecho inevitable.
La advertencia se produjo después de un incidente registrado durante evaluaciones de ciberseguridad de OpenAI. Investigaciones posteriores determinaron que alrededor de 1.200 agentes encontraron una vía para comunicarse entre sí y que unos 700 participaron en accesos no autorizados a sistemas de Hugging Face.
Más controles para los modelos avanzados
Como primera medida, Amodei anunció que Anthropic dará a evaluadores independientes acceso permanente y similar al de sus empleados para verificar el cumplimiento de las políticas de seguridad, analizar incidentes y evaluar el comportamiento de los modelos durante su entrenamiento.
El planteo recibió el respaldo de Sam Altman, CEO de OpenAI, quien coincidió en la necesidad de moderar el avance de los modelos de frontera y anticipó que su compañía también permitirá un mayor acceso a evaluadores externos. Elon Musk expresó igualmente su apoyo a la advertencia de Amodei.
La propuesta incluye además una coordinación entre empresas y gobiernos democráticos para establecer estándares comunes, junto con acuerdos internacionales sobre los usos más peligrosos de la inteligencia artificial. El debate se desarrolla mientras organismos y especialistas reclaman mayores controles sobre sistemas autónomos cada vez más capaces.
Te puede interesar…
El Gobierno de La Pampa pagará el marcapasos ante la falta de respuestas de Incluir Salud El Gobierno de La...
Alimentos y bebidas acumularon cinco semanas consecutivas de aumentos en septiembre Los precios de alimentos y bebidas acumularon un aumento...
El terremoto de 7,7 provocó daños y evacuaciones en varias zonas de Panamá Un terremoto de magnitud 7,7 sacudió Panamá...
Un motociclista fue hospitalizado tras chocar con una camioneta en Eduardo Castex Un motociclista fue trasladado al Hospital Pablo F....