Die Gefahr von „KI-Killerrobotern“ bedroht die globale Sicherheit

Das komplizierte Bild der KI-Killerroboter

Die Steuerung von Waffensystemen durch KI könnte dazu führen, dass Ziele ohne menschliches Zutun identifiziert, angegriffen und zerstört werden. Dies wirft schwerwiegende rechtliche und ethische Fragen auf.

Der österreichische Außenminister Alexander Schallenberg betonte den Ernst der Lage und sagte: „Dies ist der Oppenheimer-Moment unserer Generation.“

Roboter und Waffen mit künstlicher Intelligenz werden in vielen Ländern zunehmend eingesetzt. Foto: Forbes

Tatsächlich stellt sich die Frage, inwieweit der „Geist aus der Flasche entwichen“ ist, da Drohnen und künstliche Intelligenz (KI) in der Armee weltweit immer häufiger eingesetzt werden.

„Der Einsatz von Drohnen in modernen Konflikten durch Russland und die Ukraine, der Einsatz von Drohnen durch die USA bei gezielten Angriffsoperationen in Afghanistan und Pakistan und, wie letzten Monat bekannt wurde, im Rahmen des israelischen Lavender-Programms zeigen, wie die Informationsverarbeitungsfähigkeiten der KI von den Streitkräften der Welt aktiv genutzt werden, um ihre Angriffskraft zu stärken“, sagte Wilson Jones, Verteidigungsanalyst bei GlobalData.

Untersuchungen des in London ansässigen Office of War Investigative Journalism ergaben, dass das Lavender-KI-System des israelischen Militärs eine Trefferquote von 90 % bei der Identifizierung von Personen mit Hamas-Verbindungen aufwies, was bedeutet, dass 10 % keine Verbindungen zur Hamas hatten. Dies führte dazu, dass aufgrund der Identifizierungs- und Entscheidungsfähigkeiten der KI auch Zivilisten getötet wurden.

Eine Bedrohung für die globale Sicherheit

Der Einsatz von KI auf diese Weise unterstreicht die Notwendigkeit, die Technologie in Waffensystemen zu verwalten.

„Der Einsatz von KI in Waffensystemen, insbesondere wenn sie zur Zielerfassung eingesetzt wird, wirft grundlegende Fragen darüber auf, wer wir als Menschen sind und welche Beziehung wir zum Krieg haben, und insbesondere über unsere Annahmen darüber, wie wir in bewaffneten Konflikten Gewalt anwenden könnten“, erklärte Dr. Alexander Blanchard, leitender wissenschaftlicher Mitarbeiter im Programm „Governance of Artificial Intelligence“ am Stockholm International Peace Research Institute (SIPRI), einer unabhängigen Forschungsgruppe mit Schwerpunkt auf globaler Sicherheit, gegenüber Army Technology.

KI-Systeme können in chaotischen Umgebungen unvorhersehbares Verhalten zeigen und Ziele möglicherweise nicht genau identifizieren. Foto: MES

„Wie verändert KI die Art und Weise, wie das Militär Ziele auswählt und Gewalt gegen sie anwendet? Diese Veränderungen werfen wiederum eine Vielzahl rechtlicher, ethischer und operativer Fragen auf. Die größten Bedenken sind humanitärer Natur“, fügte Dr. Blanchard hinzu.

„Viele befürchten, dass autonome Systeme, je nachdem, wie sie konzipiert und eingesetzt werden, Zivilisten und andere durch das Völkerrecht geschützte Personen einem größeren Risiko aussetzen könnten“, erklärte der SIPRI-Experte. „Das liegt daran, dass KI-Systeme, insbesondere in chaotischen Umgebungen, unvorhersehbares Verhalten zeigen und Ziele möglicherweise nicht genau identifizieren und Zivilisten angreifen oder Kombattanten identifizieren, die nicht im Kampf sind.“

Wilson Jones, Verteidigungsanalyst bei GlobalData, ging näher auf das Thema ein und merkte an, dass die Frage, wie die Schuld festgestellt wird, fraglich sei.

„Das geltende Kriegsrecht sieht ein Konzept der Befehlsverantwortung vor“, sagte Jones. „Das bedeutet, dass ein Offizier, General oder anderer Anführer rechtlich für die Handlungen der ihm unterstellten Truppen verantwortlich ist. Wenn Truppen Kriegsverbrechen begehen, ist der Offizier dafür verantwortlich, auch wenn er diese nicht angeordnet hat. Die Beweislast liegt bei ihm, dass er alles getan hat, um Kriegsverbrechen zu verhindern.“

„Bei KI-Systemen macht das die Sache komplizierter. Ist ein IT-Techniker verantwortlich? Ein Systemdesigner? Das ist nicht klar. Wenn das nicht klar ist, entsteht ein ethisches Risiko, wenn die Akteure glauben, dass ihre Handlungen nicht durch bestehende Gesetze geschützt sind“, betonte Jones.

Ein US-Soldat patrouilliert mit einem Roboterhund. Foto: Forbes

Rüstungskontrollkonventionen Mehrere wichtige internationale Abkommen begrenzen und regulieren den Einsatz bestimmter Waffen. Dazu gehören Chemiewaffenverbote, Atomwaffensperrverträge und das Übereinkommen über bestimmte konventionelle Waffen (CWW). Dieses verbietet oder beschränkt den Einsatz bestimmter Waffen, die den Kombattanten unnötiges oder ungerechtfertigtes Leid zufügen oder Zivilisten wahllos treffen.

„Die nukleare Rüstungskontrolle erforderte jahrzehntelange internationale Zusammenarbeit und die Durchsetzung nachfolgender Verträge“, erklärt Verteidigungsanalyst Wilson Jones. „Selbst dann setzten wir die atmosphärischen Tests bis in die 1990er Jahre fort. Ein Hauptgrund für den Erfolg der nuklearen Nichtverbreitung war die Zusammenarbeit zwischen den Vereinigten Staaten und der Sowjetunion in der bipolaren Weltordnung. Diese existiert heute nicht mehr, und die Technologie, die KI ermöglicht, ist für viele Länder leichter zugänglich als Atomkraft.“

Ein verbindlicher Vertrag müsste alle relevanten Akteure an einen Tisch bringen und ihnen einräumen, kein Instrument einzusetzen, das ihre militärische Macht stärkt. Das wird wahrscheinlich nicht funktionieren, da KI die militärische Effektivität mit minimalem finanziellen und materiellen Aufwand verbessern kann.

Aktueller geopolitischer Ausblick

Obwohl die Länder bei den Vereinten Nationen die Notwendigkeit eines verantwortungsvollen militärischen Einsatzes von KI anerkannt haben, bleibt noch viel zu tun.

„Ohne einen klaren Regulierungsrahmen bleiben diese Ansprüche weitgehend Wunschdenken“, sagte Laura Petrone, Chefanalystin bei GlobalData, gegenüber Army Technology. „Es ist keine Überraschung, dass einige Länder ihre Souveränität bei Entscheidungen über die innere Verteidigung und nationale Sicherheit bewahren wollen, insbesondere im aktuellen Klima geopolitischer Spannungen.“

Frau Petrone fügte hinzu, dass das EU-KI-Gesetz zwar einige Anforderungen an KI-Systeme festlege, sich jedoch nicht mit KI-Systemen für militärische Zwecke befasse.

„Trotz dieser Ausnahme ist der KI-Act meiner Meinung nach ein wichtiger Schritt, um einen längst überfälligen Rahmen für KI-Anwendungen zu schaffen, der in Zukunft zu einer gewissen Vereinheitlichung der relevanten Standards führen könnte“, kommentierte sie. „Diese Vereinheitlichung wird auch für KI im militärischen Bereich wichtig sein.“

Nguyen Khanh

Quelle: https://www.congluan.vn/moi-nguy-robot-sat-thu-ai-dang-de-doa-an-ninh-toan-cau-post304170.html