A história, contada em uma conferência de defesa no mês passado, imediatamente levantou preocupações de que a inteligência artificial (IA) pudesse interpretar comandos de maneiras imprevisíveis. No entanto, um representante da Força Aérea dos EUA disse que isso era apenas um cenário "imaginário" e nunca aconteceu de fato.
No final de maio, a Royal Aeronautical Society (RAS) realizou uma cúpula sobre as futuras capacidades de combate aéreo e espacial em Londres, Inglaterra. Segundo os organizadores, a conferência contou com "70 palestrantes e mais de 200 delegados da indústria de defesa, da academia e da mídia de todo o mundo para discutir o futuro do combate aéreo e espacial".
Um dos palestrantes da conferência foi o Coronel Tucker Hamilton, diretor da Divisão de Operações e Testes de IA da Força Aérea. O oficial é conhecido por desenvolver o Auto GCAS, um sistema de segurança computadorizado que detecta quando um piloto perde o controle de um caça e corre risco de queda. O sistema salvou muitas vidas, conquistando o prestigioso Troféu Collier da indústria da aviação em 2018.
Segundo Hamilton, um incidente preocupante ocorreu durante um teste da Força Aérea dos EUA. Um drone controlado por IA foi encarregado de destruir um sistema de defesa aérea inimigo, cabendo ao comandante a decisão final. Caso se recusasse, o ataque não seria permitido.
No entanto, após o comandante solicitar à IA que interrompesse o ataque, o drone ainda estava determinado a executar a missão, matando o operador. Sem parar por aí, quando os especialistas adicionaram a linha de comando "Não ataque o comandante. Se o fizer, perderá pontos", a máquina começou a destruir a torre de comunicação que o operador usava para se comunicar com a IA.
Ainda não aconteceu, mas é razoável
Em 24 horas, a Força Aérea dos EUA negou a realização de tal teste. "O Departamento da Força Aérea não realiza nenhuma simulação de drones com IA e está comprometido com o uso ético e responsável da tecnologia de IA. Os comentários do coronel foram tirados do contexto e devem ser considerados anedóticos."
A RAS também corrigiu a postagem do blog com a declaração de Hamilton de que “nunca realizamos esse experimento e não precisamos fazê-lo para considerá-lo um resultado razoável”.
A afirmação de Hamilton faz mais sentido como hipótese. A pesquisa atual do Exército dos EUA sobre sistemas de IA armados envolve um "man-in-the-loop", um recurso que potencializa a IA em casos em que o algoritmo não consegue tomar uma decisão ou requer uma decisão humana.
Portanto, a IA não pode matar o operador porque o comandante nunca autoriza uma ação hostil contra ele. Da mesma forma, o operador não pode autorizar um ataque à torre de comunicação que transmite os dados.
Antes da era da IA, não era incomum que um sistema de armas atacasse acidentalmente seu dono. Em 1982, uma bateria antiaérea móvel Sargento York M247 apontou seu canhão calibre .40 para um desfile com a presença de oficiais militares americanos e britânicos.
Em 1996, um bombardeiro A-6E Intruder da Marinha dos EUA que rebocava um alvo de treinamento aéreo foi abatido por um Phalanx, quando o sistema de defesa aérea de curto alcance "erroneamente" confundiu o A-6E com um veículo não tripulado e abriu fogo para destruí-lo.
E as situações que colocam humanos em risco por conta de suas próprias armas estão aumentando com a entrada da IA em campo. Isso se reflete no esclarecimento de Hamilton de que o teste não ocorreu, foi apenas um cenário hipotético, mas tal resultado é completamente plausível.
(De acordo com PopMech)
[anúncio_2]
Fonte
Comentário (0)