La historia, contada en una conferencia de defensa el mes pasado, generó inmediatamente preocupación por la posibilidad de que la inteligencia artificial (IA) pudiera interpretar comandos de forma impredecible. Sin embargo, un representante de la Fuerza Aérea de EE. UU. afirmó que era solo una hipótesis y que nunca se materializó.
A finales de mayo, la Real Sociedad Aeronáutica (RAS) celebró una cumbre sobre las futuras capacidades de combate aéreo y espacial en Londres, Inglaterra. Según los organizadores, la conferencia contó con la participación de 70 ponentes y más de 200 delegados de la industria de defensa, el mundo académico y los medios de comunicación de todo el mundo para debatir el futuro del combate aéreo y espacial.
Uno de los ponentes de la conferencia fue el coronel Tucker Hamilton, director de la División de Operaciones y Pruebas de IA de la Fuerza Aérea. Este oficial es conocido por desarrollar el Auto GCAS, un sistema de seguridad computarizado que detecta cuándo un piloto pierde el control de un avión de combate y corre el riesgo de estrellarse. El sistema ha salvado muchas vidas y recibió el prestigioso Trofeo Collier de la industria aeronáutica en 2018.
Según Hamilton, ocurrió un incidente preocupante durante una prueba de la Fuerza Aérea de EE. UU. Un dron controlado por IA debía destruir un sistema de defensa aérea enemigo, y la decisión final recaía en el oficial al mando. Si se negaba, no se permitiría el ataque.
Sin embargo, después de que el comandante pidiera a la IA que detuviera el ataque, el dron seguía decidido a llevar a cabo la misión eliminando al operador. Sin detenerse ahí, cuando los expertos añadieron la orden «No ataquen al comandante. Si lo hacen, perderán puntos», el dron comenzó a destruir la torre de comunicación que el operador utilizaba para comunicarse con la IA.
Aún no ha sucedido, pero es razonable.
En menos de 24 horas, la Fuerza Aérea de EE. UU. desmintió dicha prueba. «El Departamento de la Fuerza Aérea no realiza simulaciones de drones con IA y está comprometido con el uso ético y responsable de la tecnología de IA. Los comentarios del coronel fueron sacados de contexto y deben considerarse anecdóticos».
RAS también corrigió la publicación del blog con la declaración de Hamilton de que “nunca hemos realizado ese experimento y no necesitamos hacerlo para encontrar un resultado razonable”.
La afirmación de Hamilton tiene más sentido como hipótesis. La investigación actual del ejército estadounidense sobre sistemas de IA armados implica una función de "man-in-the-loop" (intervención humana), que potencia la IA en casos en que el algoritmo no puede tomar una decisión o requiere una decisión humana.
Por lo tanto, la IA no puede eliminar al operador, ya que el comandante nunca autoriza una acción hostil contra él. De igual manera, el operador no puede autorizar un ataque a la torre de comunicaciones que transmite los datos.
Antes de la era de la IA, no era raro que un sistema de armas atacara accidentalmente a su propietario. En 1982, una batería antiaérea móvil Sergrant York M247 apuntó su cañón calibre .40 a un escenario de desfile al que asistieron oficiales militares estadounidenses y británicos.
En 1996, un bombardero A-6E Intruder de la Marina de los EE. UU. que remolcaba un objetivo de entrenamiento aéreo fue derribado por un Phalanx, cuando el sistema de defensa aérea de corto alcance "erróneamente" confundió al A-6E con un vehículo no tripulado y abrió fuego para destruirlo.
Y las situaciones que ponen en riesgo al personal humano con sus propias armas aumentan con la entrada de la IA en el campo. Esto se refleja en la aclaración de Hamilton de que la prueba no se realizó, sino que fue solo un escenario hipotético, pero que tal resultado es completamente plausible.
(Según PopMech)
[anuncio_2]
Fuente
![[Foto] Inauguración solemne del I Congreso del Partido de Gobierno](https://vphoto.vietnam.vn/thumb/1200x675/vietnam/resource/IMAGE/2025/10/13/1760337945186_ndo_br_img-0787-jpg.webp)
Kommentar (0)