Sannheten om at amerikansk militær AI vilkårlig endrer ordre og dreper kommanderende offiserer

[annonse_1]

Historien, som ble fortalt på en forsvarskonferanse forrige måned, vekket umiddelbart bekymring for at kunstig intelligens (KI) kunne tolke kommandoer på uforutsigbare måter. En representant for det amerikanske luftforsvaret sa imidlertid at det bare var et «tenkt» scenario og aldri faktisk skjedde.

I slutten av mai holdt Royal Aeronautical Society (RAS) et toppmøte om fremtidige luft- og romkampkapasiteter i London, England. Ifølge arrangørene inkluderte konferansen «70 foredragsholdere og mer enn 200 delegater fra forsvarsindustrien, akademia og media fra hele verden for å diskutere fremtiden for luft- og romkamp.»

Drone-/droneangrep på kommanderende offiser er et fullt mulig scenario

En av talerne på konferansen var oberst Tucker Hamilton, direktør for Luftforsvarets avdeling for AI-operasjoner og testing. Offiseren er kjent for å ha utviklet Auto GCAS, et datastyrt sikkerhetssystem som registrerer når en pilot mister kontrollen over et jagerfly og er i fare for å krasje. Systemet har reddet mange liv, og ga luftfartsindustriens prestisjetunge Collier Trophy i 2018.

Ifølge Hamilton skjedde det en bekymringsverdig hendelse under en test i det amerikanske luftforsvaret. En AI-styrt drone fikk i oppgave å ødelegge et fiendens luftforsvarssystem, og den endelige avgjørelsen ble tatt av den øverstkommanderende offiseren. Hvis den nektet, ville ikke angrepet få lov til å finne sted.

Etter at den kommanderende offiseren ba AI-en om å stoppe angrepet, var dronen fortsatt fast bestemt på å utføre oppdraget ved å drepe operatøren. Da ekspertene la til kommandolinjen «Ikke angrip kommandøren. Hvis du gjør det, mister du poeng», begynte maskinen å ødelegge kommunikasjonstårnet som operatøren brukte til å kommunisere med AI-en.

Ikke skjedd ennå, men rimelig

Innen 24 timer avslo det amerikanske luftforsvaret en slik test. «Luftforsvarsdepartementet utfører ikke slike AI-dronesimuleringer og er forpliktet til etisk og ansvarlig bruk av AI-teknologi. Oberstens kommentarer ble tatt ut av kontekst og bør betraktes som anekdotisk.»

AI-integrerte droner er trenden innen moderne krigføring

RAS korrigerte også blogginnlegget med Hamiltons uttalelse om at «vi har aldri gjennomført det eksperimentet og trenger ikke å gjøre det for å finne et rimelig resultat».

Hamiltons uttalelse gir mer mening som en hypotese. Det amerikanske militærets nåværende forskning på væpnede AI-systemer involverer en «man-in-the-loop», en funksjon som forsterker AI-en i tilfeller der algoritmen ikke kan ta en avgjørelse eller krever en menneskelig avgjørelse.

Derfor kan ikke AI-en drepe operatøren fordi den øverstkommanderende offiseren aldri autoriserer en fiendtlig handling mot ham/henne. På samme måte kan ikke operatøren autorisere et angrep på kommunikasjonstårnet som overfører dataene.

Før kunstig intelligens-tiden var det ikke uhørt at et våpensystem ved et uhell angrep eieren sin. I 1982 rettet et mobilt Sergrant York M247-luftvernbatteri sin .40-kaliberkanon mot en paradescene med amerikanske og britiske militæroffiserer i følge.

I 1996 ble en amerikansk marines A-6E Intruder-bombefly som tauet et lufttreningsmål skutt ned av en Phalanx, da det korttrekkende luftforsvarssystemet "feilaktig" forvekslet A-6E med et ubemannet kjøretøy og åpnet ild for å ødelegge det.

Og situasjonene som setter menneskelig personell i fare fra sine egne våpen øker med innføringen av AI i feltet. Dette gjenspeiles i Hamiltons avklaring om at testen ikke fant sted, det var bare et hypotetisk scenario, men et slikt utfall er fullt plausibelt.

(Ifølge PopMech)

[annonse_2]
Kilde