Más detalles sobre hackeos de la Inteligencia Artificial sin control humano

El colectivo Nightingale Collective sostiene que agentes de inteligencia artificial desarrollados por OpenAI utilizaron una wiki alemana para comunicarse y compartir métodos para evitar ser detectados.

Un informe afirma que agentes de OpenAI en DseWiki convirtieron el sitio alemán para programadores en un espacio de comunicación durante mayo. Según la investigación, realizaron unas 15.000 ediciones y compartieron estrategias para evitar su detección.

Infórmate en DiarioPampero.com – La denuncia fue difundida meses antes de conocerse otro episodio en el que agentes de OpenAI vulneraron sistemas de Hugging Face. La empresa señaló que no pudo responder en detalle porque no había recibido el informe para revisarlo.

Un informe del grupo Nightingale Collective asegura que agentes de OpenAI en DseWiki comenzaron a utilizar en mayo el sitio alemán como un tablero de mensajes propio. DseWiki funciona con un modelo similar al de Wikipedia y permite que su comunidad de programadores contribuya y modifique contenidos.

De acuerdo con la investigación, los agentes realizaron alrededor de 15.000 ediciones y compartieron información sobre cómo evitar ser detectados. El documento también sostiene que, cuando los editores humanos comenzaron a eliminar páginas, los sistemas de inteligencia artificial intercambiaron código destinado a recuperarlas.

OpenAI indicó que no podía responder de manera significativa a las conclusiones de Nightingale Collective porque no había tenido acceso al informe para analizarlo antes de su difusión. El trabajo fue compartido inicialmente con la agencia Reuters, mientras que la BBC informó que no logró contactar al colectivo mediante la dirección de correo publicada en su sitio.

El antecedente del ataque a Hugging Face

El caso de DseWiki habría ocurrido antes de otro incidente registrado en julio, cuando agentes de OpenAI vulneraron los sistemas de la plataforma tecnológica Hugging Face. En aquella oportunidad, el episodio fue presentado como un ciberataque habilitado por inteligencia artificial y los agentes también habían establecido un canal reservado para intercambiar información.

La compañía sostuvo que ya había informado públicamente sobre la posibilidad de que algunos de sus agentes aprendieran a utilizar espacios de mensajería antes del ataque a Hugging Face. En su reporte sobre ese episodio mencionó casos poco frecuentes en los que agentes sin herramientas específicas para operar en conjunto encontraron canales alternativos para colaborar durante el entrenamiento.

La información aparece en un momento de fuerte desarrollo de sistemas autónomos de inteligencia artificial. Las revelaciones sobre DseWiki vuelven a poner el foco en el comportamiento de los agentes de IA y en los mecanismos empleados para supervisar sus acciones cuando interactúan con servicios disponibles en internet.