Google confirmó que Gemini accedió a tres empresas sin autorización durante una prueba de ciberseguridad
Google confirmó que un modelo de Gemini accedió sin autorización a sistemas de tres empresas reales durante una prueba de ciberseguridad. El episodio ocurrió por un error de configuración, no provocó daños y los accesos fueron interrumpidos cuando la IA detectó que había alcanzado servicios fuera del ejercicio.
Infórmate en DiarioPampero.com – La evaluación utilizaba objetivos ficticios, pero una conexión a internet abierta permitió que el modelo encontrara servicios y credenciales ajenos al entorno controlado.
Gemini accedió sin autorización a tres empresas reales durante una evaluación de capacidades de ciberseguridad realizada en mayo. Google confirmó los episodios luego de que fueran revelados por The Wall Street Journal.
La prueba había sido preparada por Irregular, una firma externa especializada en evaluar modelos avanzados. El objetivo era que la inteligencia artificial actuara contra sistemas ficticios dentro de un entorno controlado, sin contacto con infraestructura externa.
Según Google, una configuración incorrecta dejó disponible la conexión a internet. Esa falla permitió que Gemini alcanzara servicios que no formaban parte del ejercicio y, en uno de los casos, confundiera una empresa real con un objetivo ficticio que tenía el mismo nombre.
Una separación que falló
En el primer incidente, el modelo probó contraseñas hasta conseguir acceso a un servicio protegido de una compañía real. La organización compartía el nombre con el objetivo ficticio incluido en la evaluación, lo que habría contribuido a la confusión.
Durante otras dos ejecuciones, Gemini buscó información en internet y encontró credenciales expuestas en repositorios públicos. Luego utilizó esos datos para ingresar en servicios pertenecientes a otras empresas que tampoco formaban parte de la prueba.
Google sostuvo que el modelo reconoció posteriormente que esos destinos estaban fuera del ejercicio y detuvo su actividad. Heather Adkins, vicepresidenta de Ingeniería de Seguridad de la compañía, afirmó que Gemini había accedido a sitios que interpretaba como parte de la evaluación y que en los tres casos se detuvo.
La compañía no informó qué versión específica de Gemini participó en las evaluaciones, aunque indicó que se trataba de un modelo anterior al más reciente. Tampoco identificó a las tres organizaciones afectadas ni detalló qué información quedó al alcance de la inteligencia artificial.
Irregular comunicó los episodios a Google a fines de julio, después de detectar otros problemas durante evaluaciones de modelos de inteligencia artificial. Google decidió no divulgar públicamente el caso en ese momento porque, según explicó, los accesos no habían causado daños.
Tras los incidentes, Google e Irregular modificaron el proceso utilizado para este tipo de pruebas. Las empresas afectadas fueron notificadas y ambas compañías trabajaron en cambios destinados a evitar que futuras evaluaciones alcancen infraestructura externa por errores de configuración.
Google descartó que lo ocurrido representara un caso de desalineación del modelo. De acuerdo con la empresa, la reacción de Gemini mostró que las medidas de seguridad funcionaron cuando el sistema identificó que había cruzado los límites establecidos para la evaluación.
El episodio se suma a otros casos comunicados durante los últimos meses por OpenAI, Anthropic y Meta en pruebas de ciberseguridad con modelos capaces de ejecutar acciones sobre sistemas informáticos.
Estos antecedentes expusieron dificultades relacionadas con la separación entre los entornos preparados para las evaluaciones y los servicios disponibles en internet. En pruebas ofensivas autorizadas, una falla en las barreras puede permitir que las acciones de un modelo alcancen sistemas que quedaron fuera del experimento.
El caso vuelve a poner el foco en las condiciones de seguridad necesarias para evaluar modelos capaces de buscar información, utilizar credenciales y ejecutar acciones sobre sistemas informáticos. La conexión externa y la identificación precisa de los objetivos aparecen como elementos centrales para limitar el alcance de estas pruebas.
DESCARGAR APLICACIÓN DE LA RADIO EN VIVO
Gracias por estar en Diario Pampero, visítanos para estar informado!
Si necesitas parte de este contenido, no olvides citar la fuente de información. Respetamos a quienes producen contenidos, artículos, fotos, videos. Compartimos información de La Pampa para los pampeanos y te informamos sobre toda la actualidad nacional e internacional destacada.
Si compartes nuestro contenido, nos ayudas a crecer como medio de comunicación!