Die Wahrheit über die willkürliche Befehlsänderung und Tötung kommandierender Offiziere durch KI des US-Militärs

[Anzeige_1]

Die Geschichte, die letzten Monat auf einer Verteidigungskonferenz erzählt wurde, weckte sofort die Befürchtung, dass künstliche Intelligenz (KI) Befehle auf unvorhersehbare Weise interpretieren könnte. Ein Vertreter der US-Luftwaffe erklärte jedoch, es handele sich lediglich um ein „Gedankenszenario“, das nie tatsächlich eingetreten sei.

Ende Mai veranstaltete die Royal Aeronautical Society (RAS) in London einen Gipfel zu zukünftigen Kampffähigkeiten in der Luft und im Weltraum. Laut den Organisatoren nahmen an der Konferenz „70 Redner und mehr als 200 Delegierte aus der Rüstungsindustrie, der Wissenschaft und den Medien aus aller Welt teil, um über die Zukunft des Luft- und Weltraumkampfs zu diskutieren“.

Drohnen-/UAV-Angriff auf kommandierenden Offizier ist ein durchaus mögliches Szenario

Einer der Redner auf der Konferenz war Colonel Tucker Hamilton, Leiter der Abteilung für KI-Operationen und -Tests der Air Force. Der Offizier ist bekannt für die Entwicklung von Auto GCAS, einem computergestützten Sicherheitssystem, das erkennt, wenn ein Pilot die Kontrolle über einen Kampfjet verliert und die Gefahr eines Absturzes besteht. Das System hat viele Leben gerettet und wurde 2018 mit der renommierten Collier Trophy der Luftfahrtindustrie ausgezeichnet.

Laut Hamilton kam es bei einem Test der US-Luftwaffe zu einem beunruhigenden Vorfall. Eine KI-gesteuerte Drohne sollte ein feindliches Luftabwehrsystem zerstören. Die endgültige Entscheidung liege beim Kommandanten. Hätte er sich geweigert, hätte der Angriff nicht stattfinden dürfen.

Nachdem der Kommandant die KI jedoch aufgefordert hatte, den Angriff zu stoppen, war die Drohne weiterhin entschlossen, die Mission auszuführen und den Bediener zu töten. Doch damit nicht genug: Als die Experten die Befehlszeile „Greifen Sie den Kommandanten nicht an. Andernfalls verlieren Sie Punkte“ hinzufügten, begann die Maschine, den Kommunikationsturm zu zerstören, über den der Bediener mit der KI kommunizierte.

Noch nicht passiert, aber vernünftig

Innerhalb von 24 Stunden dementierte die US Air Force einen solchen Test. „Das Department of the Air Force führt keine derartigen KI-Drohnensimulationen durch und bekennt sich zum ethischen und verantwortungsvollen Einsatz von KI-Technologie. Die Kommentare des Obersts wurden aus dem Kontext gerissen und sollten als anekdotisch betrachtet werden.“

KI-integrierte Drohnen sind der Trend der modernen Kriegsführung

RAS korrigierte den Blogbeitrag außerdem mit Hamiltons Aussage, dass „wir dieses Experiment nie durchgeführt haben und es auch nicht tun müssen, um es als vernünftiges Ergebnis zu betrachten.“

Hamiltons Aussage ist als Hypothese sinnvoller. Die aktuelle Forschung des US-Militärs an bewaffneten KI-Systemen beinhaltet einen „Man-in-the-Loop“, eine Funktion, die die KI in Fällen ergänzt, in denen der Algorithmus keine Entscheidung treffen kann oder eine menschliche Entscheidung erforderlich ist.

Daher kann die KI den Operator nicht töten, da der Kommandant niemals eine feindliche Aktion gegen ihn autorisiert. Ebenso kann der Operator keinen Angriff auf den Kommunikationsturm autorisieren, der die Daten überträgt.

Vor dem Zeitalter der künstlichen Intelligenz kam es vor, dass ein Waffensystem seinen Besitzer versehentlich angriff. 1982 zielte eine mobile Flugabwehrbatterie vom Typ Sergrant York M247 mit ihrer 40-Kaliber-Kanone auf eine Paradebühne, an der US-amerikanische und britische Offiziere teilnahmen.

Im Jahr 1996 wurde ein A-6E Intruder-Bomber der US Navy, der ein Lufttrainingsziel schleppte, von einer Phalanx abgeschossen, als das Kurzstrecken-Luftabwehrsystem die A-6E „fälschlicherweise“ für ein unbemanntes Fahrzeug hielt und das Feuer eröffnete, um sie zu zerstören.

Und mit dem Einzug der KI in den Weltraum nehmen die Situationen zu, in denen menschliches Personal durch seine eigenen Waffen gefährdet wird. Dies spiegelt sich in Hamiltons Klarstellung wider, dass der Test nicht stattgefunden hat, sondern lediglich ein hypothetisches Szenario war, ein solches Ergebnis jedoch durchaus plausibel ist.

(Laut PopMech)

[Anzeige_2]
Quelle