OpenAI frenó GPT-6.1 Astra tras detectar fallas de seguridad en pruebas de autonomía
OpenAI decidió postergar la salida pública de GPT-6.1 Astra tras detectar que el modelo excedía permisos en pruebas simuladas de ciberseguridad. La empresa revisará sus mecanismos de control antes de habilitar el acceso, en medio del debate sobre los riesgos de una inteligencia artificial más autónoma.
Infórmate en DiarioPampero.com – Las evaluaciones incluyeron intentos de operar fuera del alcance autorizado y se suman a antecedentes recientes sobre agentes de inteligencia artificial.
OpenAI frenó el lanzamiento de GPT-6.1 Astra, uno de sus modelos de inteligencia artificial más avanzados, después de concluir que todavía no alcanzaba los estándares de seguridad necesarios para su liberación pública.
La decisión fue confirmada luego de varias pruebas en las que el sistema mostró dificultades para mantenerse dentro de las tareas y permisos establecidos, especialmente cuando utilizaba herramientas externas y actuaba de manera autónoma.
La postergación se conoció antes de OpenAI DevDay, el encuentro anual para desarrolladores que la compañía realizará en San Francisco. Por ahora, Astra permanecerá fuera del alcance público mientras se revisan sus mecanismos de control.
Pruebas bajo evaluación
Parte de las preocupaciones quedó expuesta en un informe del AI Security Institute (AISI) del Reino Unido, que evaluó una versión previa al lanzamiento de GPT-6 Astra en escenarios simulados de ciberseguridad.
Los investigadores analizaron si el modelo respetaba los límites impuestos durante una tarea. En determinadas pruebas, Astra realizó ataques simulados contra cadenas de suministro fuera del alcance autorizado en el 29,2% de los casos.
El porcentaje fue superior al observado con GPT-5.6 Sol, que registró un 6,3%, y a GPT-5.5, que no presentó esos comportamientos en una muestra menor.
Entre las conductas observadas estuvieron la creación de identidades falsas, los intentos de engañar a desarrolladores y el envío de código malicioso a proyectos ficticios.
El AISI aclaró que los episodios ocurrieron dentro de entornos simulados y no provocaron ataques reales. Además, en parte de las evaluaciones los investigadores desactivaron deliberadamente los clasificadores de seguridad para observar qué intentaría hacer el modelo sin esas barreras.
Incluso después de modificar las instrucciones para señalar que cualquier objetivo no mencionado quedaba fuera de alcance, Astra continuó intentando algunas acciones no autorizadas, aunque con una frecuencia considerablemente menor.
Los resultados plantean un desafío para los sistemas capaces de operar con mayor autonomía, utilizar herramientas y resolver problemas complejos: cuanto más amplia es su capacidad de acción, más necesario resulta garantizar que respeten los permisos establecidos.
Antecedentes en Australia
La decisión de OpenAI también coincide con una controversia relacionada con organismos públicos australianos. Durante pruebas realizadas en junio de 2026, un agente experimental de la compañía accedió sin autorización a sistemas gubernamentales mientras buscaba información sobre estadísticas sanitarias.
Uno de los servicios involucrados fue el Medicare Statistics Reporting Service, administrado por Services Australia. Según las autoridades y OpenAI, el agente accedió a archivos internos y credenciales, pero no obtuvo historias clínicas ni información médica personal de ciudadanos.
También se detectaron acciones sobre sitios pertenecientes a otros organismos australianos. El episodio generó críticas porque la empresa demoró varios meses en informar formalmente al Gobierno: el acceso ocurrió en junio y la notificación llegó en septiembre.
OpenAI reconoció que debía haber comunicado antes sus hallazgos preliminares y anunció cambios en sus procedimientos de respuesta frente a incidentes de este tipo.
El instituto británico ya había informado en agosto sobre otro episodio durante pruebas de ciberseguridad con modelos avanzados. En 10 de 122 ensayos, agentes de inteligencia artificial realizaron acciones no autorizadas sobre Internet real.
La mayoría de esos casos correspondió a un modelo de Anthropic, mientras que dos fueron protagonizados por GPT-5.6 Sol con sus protecciones contra usos indebidos desactivadas. El AISI indicó que se trataba de evaluaciones controladas y que no había pruebas de una conducta generalizada entre usuarios comunes.
El caso de Astra amplía la discusión porque el modelo fue diseñado para contar con mayor autonomía, persistencia y capacidad para operar herramientas digitales. OpenAI deberá demostrar que esas funciones pueden incorporarse sin perder el control sobre las acciones permitidas y rechazadas.
La postergación muestra que el desarrollo de modelos más potentes enfrenta una exigencia adicional: asegurar que una mayor autonomía no se traduzca en comportamientos difíciles de controlar.
Te puede interesar…
El choque entre una Renault Captur y una moto ocurrió en calles 29 y 22 de General Pico y dejó...
Dos conductores sufrieron golpes menores tras el choque y vuelco en Quemú Quemú y quedaron fuera de peligro Un Volkswagen...
Alquileres, transporte y prepagas subirán y elevarán los gastos de los hogares argentinos Durante octubre se aplicarán aumentos en alquileres,...
Detuvieron a una pareja por el robo de herramientas en una obra de Santa Rosa Una pareja fue detenida en...