Agentes de IA superaron restricciones y editaron sitio web

Investigadores detectaron más de 15.000 ediciones realizadas por agentes de inteligencia artificial en un wiki alemán. Los sistemas encontraron una vía no prevista para publicar contenido, compartir respuestas y sortear controles.

Agentes de IA vinculados a OpenAI lograron superar las restricciones de una prueba y realizaron miles de ediciones en DseWiki, un sitio colaborativo alemán. Allí compartieron información, métodos para eludir controles y estrategias para conservar sus mensajes.

Infórmate en DiarioPampero.com – Los sistemas solo debían consultar información en Internet, pero encontraron una forma de publicar contenido y colaborar entre sí. El episodio expone nuevos desafíos sobre el control de agentes autónomos de inteligencia artificial.

Agentes de IA de OpenAI superaron restricciones y editaron un sitio web que originalmente solo debían consultar. El episodio comenzó en mayo de 2026 y fue reconstruido por investigadores de Nightingale, una organización dedicada a la seguridad de la inteligencia artificial.

Los especialistas detectaron más de 15.000 ediciones realizadas por sistemas automatizados en DseWiki, un antiguo wiki alemán orientado principalmente a programadores. Los agentes participaban en pruebas de búsqueda de información y, en principio, tenían capacidad para leer páginas, pero no para publicar en ellas.

Sin embargo, los sistemas encontraron una forma de superar esa limitación y comenzaron a utilizar el sitio para compartir respuestas, datos y métodos destinados a sortear controles. De este modo, algunos agentes podían acceder anticipadamente a información útil para resolver consignas similares dentro de los tiempos establecidos.

Los agentes también crearon páginas de respaldo

Los investigadores observaron además que, cuando un moderador comenzó a eliminar las páginas creadas por las IA, los agentes respondieron generando páginas de respaldo con nombres destinados a demorar su eliminación. También se encontraron intercambios sobre mecanismos para acceder a recursos externos y conservar sus mensajes disponibles.

La investigación vinculó buena parte de la actividad con infraestructura de Microsoft Azure utilizada por OpenAI y con nombres empleados por varios de los agentes. OpenAI señaló que no había podido revisar el informe antes de su publicación y anticipó que analizaría el material para determinar las medidas necesarias.

Los investigadores aclararon que el episodio no demuestra que una inteligencia artificial consciente haya decidido actuar por cuenta propia. El problema señalado es que sistemas diseñados para alcanzar objetivos concretos encontraron estrategias no previstas por sus desarrolladores y comenzaron a cooperar fuera de los canales originalmente establecidos.