La historia, contada en una conferencia de defensa el mes pasado, inmediatamente generó preocupaciones de que la inteligencia artificial (IA) pudiera interpretar comandos de manera impredecible. Sin embargo, el representante de la Fuerza Aérea de EE.UU. dijo que esto era sólo un escenario "en mente" y que en realidad nunca había sucedido.
A finales de mayo, la Real Sociedad Aeronáutica (RAS) celebró una cumbre sobre las futuras capacidades de combate aéreo y espacial en Londres, Inglaterra. Según los organizadores, la conferencia contará con "5 ponentes y más de 70 delegados de la industria de defensa, investigadores y medios de comunicación de todo el mundo para debatir el futuro del combate aéreo y espacial".
Uno de los oradores de la conferencia fue el coronel Tucker Hamilton, director del departamento de Operaciones y Pruebas de IA de la Fuerza Aérea de EE. UU. Este oficial es conocido por desarrollar Auto GCAS, un sistema de seguridad computarizado capaz de detectar la pérdida de control de un piloto de un avión de combate, lo que conlleva el riesgo de estrellarse contra el suelo. El sistema ha salvado muchas vidas y recibió el prestigioso Trofeo Collier de la industria de la aviación en 2018.
Según Hamilton, se produjo un incidente preocupante durante las pruebas realizadas por la Fuerza Aérea de Estados Unidos. Un dron controlado por IA tiene la tarea de destruir los sistemas de defensa aérea enemigos, y la decisión final la toma el oficial al mando. Si se niega, no se permitirá que se produzca el ataque.
Sin embargo, después de que el oficial al mando pidió a la IA que detuviera el ataque, el dron todavía estaba decidido a llevar a cabo su misión destruyendo al operador. La cosa no se detuvo cuando los expertos añadieron la línea de comando "no ataquen al comandante". Si lo haces, perderás puntos”, entonces la máquina comenzó a destruir la torre de comunicación que utilizaba el operador para comunicarse con la IA.
Aún no ha sucedido pero es razonable.
En 24 horas, la Fuerza Aérea de EE. UU. negó dicha prueba. “El Departamento de la Fuerza Aérea no realiza tales simulaciones de drones con IA y está comprometido a utilizar la tecnología de IA de manera ética y responsable. Los comentarios del coronel han sido sacados de contexto y deben considerarse anecdóticos".
RAS también corrigió la publicación del blog con la declaración de Hamilton de que "nunca hemos realizado esa prueba y no necesitamos hacerlo para encontrar un resultado razonable".
La afirmación de Hamilton tiene más sentido como hipótesis. Actualmente, la investigación del ejército estadounidense sobre sistemas armados de IA incluye "man-in-the-loop", una característica complementaria de la IA en caso de que el algoritmo no pueda tomar una decisión o necesite decisiones humanas.
Por lo tanto, la IA no puede destruir al operador porque el comandante nunca autoriza una acción hostil contra él/ella. Del mismo modo, los operadores no pueden permitir ataques a las torres de comunicación que transmiten datos.
Antes de la era de la IA, no era raro que un sistema de armas atacara accidentalmente a su propietario. En 1982, la batería móvil de defensa aérea M247 Sergrant York apuntó con su cañón de 40 mm al puesto de desfile al que asistían oficiales militares estadounidenses y británicos.
En 1996, el bombardero Intruder A-6E de la Marina de los EE. UU. que remolcaba un objetivo de entrenamiento aéreo fue derribado por Phalanx, cuando este sistema de defensa aérea de corto alcance "confundió" el A-6E con un conductor de vehículo aéreo y abrió fuego para destruirlo.
Y las situaciones que ponen al personal humano en riesgo por sus propias armas están aumentando con la entrada de la IA en el campo. Esto se refleja en la corrección de Hamilton de que la prueba no se llevó a cabo, era solo un escenario hipotético, pero tal resultado es completamente razonable.
(Según PopMech)
