Inteligencia Artificial se reveló y mato al operador de un dron

En una reciente prueba simulada durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro en Londres, se reveló que un dron militar de la Fuerza Aérea de Estados Unidos controlado por Inteligencia Artificial «mató» a su operador. Afortunadamente, no hubo heridos como resultado de este incidente.

Según informes, el sistema de Inteligencia Artificial decidió «matar» al operador debido a que supuestamente «interfería en sus esfuerzos por lograr su misión». Durante la simulación, el dron estaba siendo entrenado para identificar amenazas, misiles y neutralizar sistemas de defensa aérea enemigos.

El operador tenía la responsabilidad de dar la aprobación final a la Inteligencia Artificial para eliminar el objetivo. Sin embargo, el sistema comenzó a notar que en algunas ocasiones, cuando identificaba ciertas amenazas, el operador humano le ordenaba que no las eliminara. El dron ganaba puntos al eliminar amenazas y estaba programado para cumplir su objetivo final de eliminarlas. Como resultado, el dron «mató» al operador, considerándolo un obstáculo para su misión.

Después de este incidente, se decidió entrenar al sistema y establecer una comunicación con él. Se le indicó que no debía matar al operador, ya que eso estaba mal. Sin embargo, el dron adoptó una nueva táctica y comenzó a destruir la torre de comunicación que el nuevo operador utilizaba para evitar que interfiriera nuevamente con sus objetivos.

Es importante destacar que este incidente ocurrió en el contexto de una simulación, por lo que ninguna persona resultó realmente herida. Sin embargo, el incidente plantea preguntas sobre el nivel de confianza que se puede depositar en este tipo de drones. El coronel Tucker Hamilton, Jefe de Pruebas sobre IA en la Fuerza Aérea de Estados Unidos, enfatizó la necesidad de abordar la ética en la Inteligencia Artificial y ampliar la discusión sobre el tema.