Nebezpečí „robotů zabijáků s umělou inteligencí“ ohrožuje globální bezpečnost

Komplexní obraz využití robotů-zabijáků s umělou inteligencí

Umožnění umělé inteligenci ovládat zbraňové systémy by mohlo znamenat, že cíle budou identifikovány, napadeny a zničeny bez lidského zásahu. To vyvolává vážné právní a etické otázky.

Rakouský ministr zahraničí Alexander Schallenberg zdůraznil závažnost situace a řekl: „Toto je Oppenheimerův moment naší generace.“

Roboti a zbraně využívající umělou inteligenci se začínají hojně používat v armádách mnoha zemí. Foto: Forbes

Rozsah, do jakém „džin unikl z láhve“, se skutečně stal naléhavou otázkou, jelikož drony a umělá inteligence (AI) se staly široce používanými armádami po celém světě .

„Použití dronů v moderních konfliktech Ruskem a Ukrajinou, použití dronů USA při cílených úderných operacích v Afghánistánu a Pákistánu a, jak bylo nedávno odhaleno minulý měsíc, v rámci izraelského programu Lavender ukazuje, jak jsou schopnosti umělé inteligence v oblasti zpracování informací aktivně využívány armádami celého světa ke zvýšení jejich útočné síly,“ uvedl analytik obrany společnosti GlobalData Wilson Jones.

Vyšetřování londýnského Úřadu pro válečnou investigativní žurnalistiku zjistilo, že izraelský armádní systém umělé inteligence Lavender měl 90% přesnost při identifikaci osob s vazbami na Hamás, což znamená, že 10 % z nich nebylo. To vedlo k úmrtím civilistů kvůli identifikačním a rozhodovacím schopnostem umělé inteligence.

Hrozba pro globální bezpečnost

Využití umělé inteligence tímto způsobem zdůrazňuje potřebu řízení technologií ve zbraňových systémech.

„Použití umělé inteligence ve zbraňových systémech, zejména pokud se používá k zaměřování cílů, vyvolává zásadní otázky o nás – lidech – a našem vztahu k válce, a konkrétněji o našich předpokladech o tom, jak bychom mohli v ozbrojených konfliktech použít násilí,“ vysvětlil serveru Army Technology Dr. Alexander Blanchard, vedoucí výzkumný pracovník programu Správa umělé inteligence ve Stockholmském mezinárodním institutu pro výzkum míru (SIPRI), nezávislé výzkumné skupině zaměřené na globální bezpečnost.

Systémy umělé inteligence se při použití v chaotickém prostředí mohou chovat nepředvídatelně a nemusí přesně identifikovat cíle. Foto: MES

„Mění umělá inteligence způsob, jakým armáda vybírá cíle a používá na ně sílu? Tyto změny zase vyvolávají řadu právních, etických a operačních otázek. Největší obavy jsou humanitární,“ dodal Dr. Blanchard.

„Mnozí se obávají, že v závislosti na tom, jak jsou autonomní systémy navrženy a používány, by mohly vystavit civilisty a další osoby chráněné mezinárodním právem většímu riziku,“ vysvětlil expert SIPRI. „Je to proto, že systémy umělé inteligence, zejména při použití v chaotickém prostředí, mohou fungovat nepředvídatelně a nemusí přesně identifikovat cíle a útočit na civilisty nebo identifikovat bojovníky, kteří nejsou v boji.“

Analytik obrany společnosti GlobalData Wilson Jones se k této otázce vyjádřil, že otázka způsobu určování viny by mohla být sporná.

„Podle současného válečného práva existuje koncept velitelské odpovědnosti,“ řekl pan Jones. „To znamená, že důstojník, generál nebo jiný velitel je právně odpovědný za činy vojsk pod jeho velením. Pokud se vojáci dopustí válečných zločinů, je důstojník odpovědný, i když nevydal rozkazy; důkazní břemeno je na něm, aby prokázal, že udělal vše, co bylo v jeho silách, aby zabránil válečným zločinům.“

„U systémů umělé inteligence to věci komplikuje. Je za to zodpovědný IT technik? Systémový návrhář? To není jasné. Pokud to není jasné, vytváří to morální hazard, pokud si aktéři myslí, že jejich jednání není chráněno stávajícími zákony,“ zdůraznil pan Jones.

Americký voják hlídkuje s robotickým psem. Foto: Forbes

Úmluvy o kontrole zbrojení Několik významných mezinárodních dohod omezuje a reguluje určité způsoby použití zbraní. Existují zákazy chemických zbraní, smlouvy o nešíření jaderných zbraní a Úmluva o některých konvenčních zbraních, která zakazuje nebo omezuje použití specifických zbraní, o nichž se má za to, že způsobují zbytečné nebo neodůvodněné utrpení válčícím stranám nebo bez rozdílu postihují civilní obyvatelstvo.

„Kontrola jaderných zbraní vyžadovala desetiletí mezinárodní spolupráce a následných smluv, aby byly vymáhány,“ vysvětluje analytik obrany Wilson Jones. „I tehdy jsme pokračovali v atmosférických testech až do 90. let. Hlavním důvodem úspěchu nešíření jaderných zbraní byla spolupráce mezi Spojenými státy a Sovětským svazem v bipolárním světovém řádu. Ta již neexistuje a technologie, která vytváří umělou inteligenci, je pro mnoho zemí dostupnější než jaderná energie.“

„Závazná smlouva by musela svést všechny zúčastněné strany k jednacímu stolu a dohodnout se, že nebudou používat nástroj, který zvyšuje jejich vojenskou sílu. To pravděpodobně nebude fungovat, protože umělá inteligence může zlepšit vojenskou efektivitu s minimálními finančními a materiálními náklady.“

Aktuální geopolitický výhled

Přestože země OSN uznaly potřebu zodpovědného vojenského využívání umělé inteligence, je stále co dělat.

„Bez jasného regulačního rámce zůstávají tyto požadavky do značné míry pouhým ambiciózním tématem,“ řekla serveru Army Technology Laura Petroneová, hlavní analytička společnosti GlobalData. „Není divu, že si některé země chtějí zachovat svou vlastní suverenitu při rozhodování o záležitostech domácí obrany a národní bezpečnosti, zejména v současném geopolitickém klimatu.“

Paní Petrone dodala, že ačkoli zákon EU o umělé inteligenci stanoví určité požadavky na systémy umělé inteligence, nezabývá se systémy umělé inteligence pro vojenské účely.

„Myslím si, že i přes toto vyloučení je zákon o umělé inteligenci důležitým úsilím o vytvoření dlouho očekávaného rámce pro aplikace umělé inteligence, což by v budoucnu mohlo vést k určité míře jednotnosti příslušných standardů,“ poznamenala. „Tato jednotnost bude důležitá i pro umělou inteligenci ve vojenské oblasti.“

Nguyen Khanh

Zdroj: https://www.congluan.vn/moi-nguy-robot-sat-thu-ai-dang-de-doa-an-ninh-toan-cau-post304170.html