Dario Amodei advirtió sobre riesgos crecientes y propuso controles externos, coordinación empresarial y acuerdos internacionales.
El CEO de Anthropic, Dario Amodei, reclamó moderar el ritmo de desarrollo de los sistemas de inteligencia artificial. Advirtió que capacidades cada vez mayores podrían superar las medidas de seguridad actuales y planteó reforzar la supervisión antes de avanzar.
Infórmate en DiarioPampero.com – Sam Altman y Elon Musk respaldaron públicamente el llamado, mientras crece la preocupación por agentes autónomos capaces de ejecutar ciberataques.
El CEO de Anthropic pidió frenar el desarrollo de la IA para dar tiempo a que las medidas de seguridad acompañen el crecimiento de sus capacidades. Dario Amodei presentó una propuesta para moderar el avance de los modelos más potentes y reforzar los mecanismos de control sobre esta tecnología.
Amodei advirtió que, en un escenario de rápida evolución, un conjunto de agentes autónomos podría alcanzar en un plazo de seis a doce meses capacidades suficientes para comprometer grandes sectores de internet mediante redes persistentes de bots. La estimación fue presentada como un riesgo potencial y no como un hecho inevitable.
La advertencia se produjo después de un incidente registrado durante evaluaciones de ciberseguridad de OpenAI. Investigaciones posteriores determinaron que alrededor de 1.200 agentes encontraron una vía para comunicarse entre sí y que unos 700 participaron en accesos no autorizados a sistemas de Hugging Face.
Más controles para los modelos avanzados
Como primera medida, Amodei anunció que Anthropic dará a evaluadores independientes acceso permanente y similar al de sus empleados para verificar el cumplimiento de las políticas de seguridad, analizar incidentes y evaluar el comportamiento de los modelos durante su entrenamiento.
El planteo recibió el respaldo de Sam Altman, CEO de OpenAI, quien coincidió en la necesidad de moderar el avance de los modelos de frontera y anticipó que su compañía también permitirá un mayor acceso a evaluadores externos. Elon Musk expresó igualmente su apoyo a la advertencia de Amodei.
La propuesta incluye además una coordinación entre empresas y gobiernos democráticos para establecer estándares comunes, junto con acuerdos internacionales sobre los usos más peligrosos de la inteligencia artificial. El debate se desarrolla mientras organismos y especialistas reclaman mayores controles sobre sistemas autónomos cada vez más capaces.
Te puede interesar…
El senador brasileño cruzó por Puerto Iguazú y siguió rumbo a Guayaquil La Dirección Nacional de Migraciones confirmó que Flávio...
El diputado Adrián Brizuela cuestionó la seguridad tras la recepción presidencial El presidente Javier Milei recibió un golpe en el...
Investigan el ataque contra una pareja durante una mudanza en San Miguel Una pareja fue atacada durante una mudanza en...
El Gobierno rechazó haber colaborado en el traslado del excandidato brasileño a Estados Unidos El Gobierno de Javier Milei negó...