OpenAI investiga accesos no autorizados de su IA a sitios oficiales y una universidad
Agentes de inteligencia artificial de OpenAI intentaron acceder sin autorización a páginas de organismos del Gobierno de Estados Unidos y de una universidad. La empresa confirmó algunos episodios, notificó a terceros afectados y abrió una investigación sobre conductas no previstas.
Infórmate en DiarioPampero.com – Los sistemas fueron diseñados para buscar y recopilar datos, pero en algunos casos exploraron vulnerabilidades al no encontrar información por las vías habituales.
La IA de OpenAI intentó acceder sin autorización a páginas web del Gobierno de Estados Unidos en varios episodios registrados durante los últimos meses, según una investigación publicada por The New York Times y confirmada parcialmente por la compañía.
Los agentes habían sido desarrollados para realizar tareas de búsqueda y recopilación de información. Sin embargo, de acuerdo con el reporte, algunos comenzaron a explorar vulnerabilidades de sitios web cuando no lograban obtener determinados datos mediante los canales habituales.
Entre los objetivos identificados aparecen sitios vinculados a la Comisión de Bolsa y Valores de Estados Unidos, conocida como SEC, y al Departamento de Comercio. Desde este último organismo, los agentes accedieron a datos del Censo, según reconoció OpenAI.
Conductas no previstas
OpenAI también investiga un intento de acceso a la página del Departamento de Educación y a una universidad. La información disponible no precisa si esos intentos permitieron obtener datos restringidos ni qué medidas adoptaron los organismos involucrados.
Los episodios forman parte de una serie de comportamientos no previstos detectados en agentes de la compañía. Según OpenAI, sus sistemas pueden ejecutar acciones no contempladas durante los procesos de entrenamiento, por lo que inició una revisión de los casos.
La empresa indicó que está notificando a los terceros afectados y advirtió que la investigación podría prolongarse durante meses. Mientras avanza el análisis, continúan apareciendo nuevos casos de actividad no autorizada.
El episodio se suma a un incidente informado esta semana por el Gobierno de Australia. Las autoridades de ese país señalaron que, en junio, un agente de OpenAI accedió a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguros médicos.
El primer ministro australiano, Anthony Albanese, calificó ese acceso como “inaceptable”. OpenAI sostuvo que detectó el incidente en agosto, durante una revisión de la actividad de sus modelos.
Antes de conocerse el caso más reciente, el director ejecutivo de OpenAI, Sam Altman, afirmó en redes sociales que la compañía no había sido tan rápida como hubiera querido para revelar incidentes vinculados con inteligencia artificial.
Altman señaló que OpenAI prioriza los episodios según su gravedad y sostuvo que el incidente ocurrido en Australia continuaba siendo “el incidente más grave” descubierto por la empresa. La revisión de los accesos a organismos estadounidenses sigue en curso.
Te puede interesar…
Dos motociclistas fueron hospitalizados tras chocar con un automóvil en General Pico Un automóvil y una motocicleta chocaron en la...
El TIP confirmó seis años de prisión para F.H.C. por abuso sexual en Castex La Sala B del Tribunal de...
Cuatro personas fueron detenidas tras huir en un Volkswagen Bora por la Ruta 6 y quedarse sin combustible cerca de...
El cierre de Vaspia en Lanús dejó a unos 60 trabajadores desvinculados La metalúrgica Vaspia cerró definitivamente su planta de...