"Proč je umělá inteligence nebezpečná?"

Ve skutečnosti to není poprvé, co vědci varují před potenciálním nebezpečím umělé inteligence pro lidstvo. V roce 2014 prohlásil renomovaný britský teoretický fyzik Stephen Hawking: „Plný rozvoj umělé inteligence by mohl zničit lidstvo.“ Předpověděl také, že lidstvo bude do 500 let zcela nahrazeno umělou inteligencí, pokud se při výzkumu a vývoji této nebezpečné technologie nebude postupovat opatrně. Před osmi lety, v červenci 2015, podepsalo více než 1 000 odborníků na umělou inteligenci, včetně Stephena Hawkinga, Elona Muska, Noama Chomského a dalších, petici varující před rizikem závodů ve zbrojení v oblasti vojenské umělé inteligence a požadující úplný zákaz autonomních zbraní (kombinujících umělou inteligenci a smrtící zbraně). Spuštění aplikace Chat GPT společností OpenAI v listopadu 2022 přidalo další varovný signál ohledně inherentních nebezpečí umělé inteligence. Ve skutečnosti to, co Chat GPT dělá, ukazuje, že umělá inteligence se do jisté míry stala mnohem nebezpečnější, než si lidé kdysi mysleli.

Potenciální rizika umělé inteligence závisí na způsobu jejího použití. Původně byla umělá inteligence vyvinuta, aby pomáhala lidem v jejich práci, zejména s únavnými, opakujícími se úkoly, jako je klasifikace obrázků a prohlížení informací. S rychlým rozvojem umělé inteligence v poslední době se však vědci a technologičtí experti obávají, že pokud by byla umělá inteligence vyvíjena nekontrolovaně nebo naprogramována pro nesprávné účely, mohla by mít vážné důsledky pro lidstvo a společnost.

Riziko nejistoty

Umělá inteligence by se mohla stát hrozbou pro národní bezpečnost a osobní bezpečnost. Elon Musk varoval, že umělá inteligence by se mohla stát děsivým nástrojem ve válčení. Pokud by národ dokázal vyvinout špičkový systém umělé inteligence, mohl by ho použít k útoku na jiné národy. Profesor Stuart Russell, profesor informatiky na Kalifornské univerzitě, který se věnuje výzkumu umělé inteligence desítky let, varuje před bezpečnostní hrozbou, kterou představuje umělá inteligence, a uvádí, že nyní můžeme vyrábět autonomní zbraně integrací a miniaturizací stávajících technologií.

Experiment, který provedl profesor Stuart Russell a Future Life Research Institute (FLI), použil slaughterbota – mikroskopické létající zařízení vybavené kamerami, senzory, softwarem pro zpracování obrazu, rozpoznáváním obličeje, třígramovou výbušninou a vysokorychlostním mikroprocesorem, který umožňuje analýzu dat a reakce 100krát rychlejší než lidský mozek. Podle naprogramovaných parametrů slaughterbot nepřetržitě přistupuje k cloudovým datům, aby vyhledával informace o svém cíli a našel způsob, jak se k němu přiblížit. Jakmile je cíl nalezen, řítí se k němu vysokou rychlostí, odpálí třígramovou výbušninu a pronikne hluboko do lebky, čímž oběť okamžitě zabije.

To byl jen experiment s umělou inteligencí na nejjednodušší úrovni. Pokud se umělá inteligence použije k vývoji nových, sofistikovanějších útočných metod, mohla by také zvýšit útočné schopnosti útočníků a vést k závažnějším následkům než u konvenčních útoků. Až se umělá inteligence vyvine do bodu, kdy se bude moci sama rozhodovat o zvládání měnícího se prostředí, samostatně hledat alternativní cíle nebo rozšiřovat svůj dosah, pak lidstvo možná už nebude v bezpečí. Mnoho kolegů v tomto oboru souhlasí s profesorem Stuartem Russellem a věří, že stále existuje šance zabránit takové bezútěšné budoucnosti, ale ve skutečnosti nám nezbývá mnoho času.

Rizikem je, že se umělá inteligence stane organizovanou, autonomní a bude ovládat systém.

Umělá inteligence může být špatně navržena nebo nesprávně „vyškolena“ pomocí strojového učení, což může vést k nezamýšleným akcím, které poškozují lidi a životní prostředí. Například díky strojovému učení se umělá inteligence stává stále inteligentnější. Když umělá inteligence dosáhne úrovně inteligence, kdy podporuje kritické systémy, jako je energetika, doprava, zdravotnictví a finance, dokáže tyto systémy ovládat a řídit, sama se rozhoduje a v nouzových situacích je realizuje. Pokud je však umělá inteligence „vybavena“ zlým úmyslem (nesprávně navržena), může způsobit vážné následky, jako je narušení dopravních systémů deaktivací semaforů nebo přerušením dodávky energie do městských železničních systémů, což může vést k řetězovým nehodám a rozsáhlým výpadkům proudu.

Mnoho hollywoodských i mezinárodních filmů bylo založeno na tomto scénáři. Se současnou technologií umělé inteligence to však již není vzdálená vyhlídka, ale zcela možná. Elon Musk se domnívá, že pokud se umělé inteligenci dovolí nekontrolovaný rozvoj do bodu, kdy dokáže automatizovat rozhodování bez lidského zásahu, mohla by představovat hrozbu pro přežití lidstva. Proto spolu s tisíci technologických expertů podepsal dopis požadující zastavení a přísnou kontrolu vývoje umělé inteligence transparentním způsobem. Podle Elona Muska jsou systémy umělé inteligence složité, obtížně pochopitelné a jejich ovládání je velmi náročné. Bez transparentnosti je nevyhnutelné používání umělé inteligence k neetickým účelům, které způsobuje škodu lidstvu.

Riziko ztráty zaměstnání, porušení práva na soukromí.

Technologie umělé inteligence, pokud je používána ke shromažďování osobních údajů, může být použita k narušení soukromí, vedení dezinformačních kampaní a šíření dezinformací, které ovlivňují společenský řád a politickou stabilitu. Hacking sítě amerického Úřadu pro personální management (OPM) je pro každou zemi i organizaci značným problémem, protože ohrozil detailní a vysoce citlivé osobní údaje 21,5 milionu současných i penzionovaných amerických úředníků, včetně informací o jejich manželkách/manželkách a údajů o žádostech o vládní zaměstnání, jako je zdravotní stav, bydliště, povolání, otisky prstů a finanční informace. Ještě alarmující skutečnost se však objevila, když CIA zjistila, že pachatelé krádeže dat OPM použili umělou inteligenci k falšování osobních údajů a vytváření virtuálních agentů pro krádež dat. Po odcizení budou informace analyzovány, kategorizovány a využívány pro specifické účely pomocí technologie Big Data. Umělá inteligence pomáhá zlodějům informací zkrátit dobu potřebnou k jejich zneužití, protože lidé nejsou schopni zpracovat takové obrovské množství informací v tak krátkém čase.

Kromě výše zmíněných inherentních nebezpečí vytváří technologie umělé inteligence i další rizika, jako například: nadměrné spoléhání se na ni, které vede ke ztrátě kontroly nad situacemi a poklesu schopnosti rozhodování. Umělá inteligence také způsobí, že miliony, ba i stovky milionů lidí přijdou o práci, zejména v čistě manuálních pracovních pozicích s nízkým obsahem znalostí. Důsledkem je, že se ještě více prohloubí závažné sociální problémy, jako je nezaměstnanost, kriminalita a propast mezi bohatými a chudými. Zásadní otázkou je také spolehlivost. Spolehlivost rozhodnutí ve vysoce specializovaných oblastech, jako je zdravotnictví a trestní soudnictví, je nesmírně důležitá. Při používání umělé inteligence k podpoře rozhodování v těchto oblastech, pokud technologie není dostatečně spolehlivá, funguje na základě dat, která mají tendenci upřednostňovat jednoho nebo skupinu lidí, nebo je úmyslně zkreslená, mohou tato rozhodnutí způsobit vážné následky.

Jak tomu můžeme zabránit?

Výše uvedená rizika jsou důvodem, proč se Elon Musk a technologickí experti obávají nekontrolovaného rozvoje umělé inteligence a napsali dopisy, v nichž naléhají na Organizaci spojených národů a mezinárodní organizace, aby přísně kontrolovaly, zajistily bezpečnost a etiku vývoje umělé inteligence a posílily mezinárodní spolupráci s cílem zajistit, aby technologie umělé inteligence byla využívána ku prospěchu lidstva a společnosti. Mezi konkrétní opatření lze uvést:

- Řízení spolehlivosti systému: Umělá inteligence musí být navržena a vyvinuta tak, aby byla zajištěna bezpečnost a spolehlivost prostřednictvím přísných, častých a nepřetržitých metod kontroly kvality, monitorování a dohledu, aby se zajistilo, že systém umělé inteligence funguje tak, jak to lidé zamýšlejí, a aby se zabránilo nežádoucím dopadům z její nespolehlivosti.

Technologie umělé inteligence (AI) musí být naprogramována tak, aby fungovala v souladu s etickými hodnotami a společenskými normami. Tyto předpisy a standardy musí být jasně stanoveny a monitorovány, aby se zajistilo, že nebudou způsobovat nic škodlivého ani újmu lidem ani organizacím. Proces analýzy, hodnocení dopadu a monitorování výkonu systému AI musí být také pravidelně prováděn, aby se zajistilo, že funguje eticky, neporušuje ani nenarušuje společné hodnoty společnosti, nemá negativní dopady a zajišťuje přesný přenos znalostí a hodnot.

Žurnalistika je jedním z odvětví nejvíce postižených umělou inteligencí. V budoucnu nebude potřeba moderátorů mimo obrazovku pro rozhlasové programy a virtuální moderátoři televizních pořadů se dokonce stanou dominantními.

- Dočasně pozastavit „trénink“ systémů umělé inteligence na dobu nejméně šesti měsíců, aby se celá problematika znovu posoudila. Tato pauza musí být veřejná, kontrolovaná a všechny klíčové zúčastněné strany zapojené do tréninku se jí musí řídit. V případě potřeby by měly vlády vydat dočasné zákazy. To neznamená úplné zastavení vývoje umělé inteligence, ale pouze dočasnou pauzu v nebezpečném závodě o přechod k jiným vývojovým modelům, které učiní systémy umělé inteligence přesnějšími, bezpečnějšími, srozumitelnějšími, transparentnějšími, relevantnějšími, spolehlivějšími a loajálnějšími. Jedná se o komplexní řešení, které Elon Musk a jeho kolegové prosazovali ve svém otevřeném dopise, ale jeho proveditelnost je nízká. Pro všechny nezávislé laboratoře je velmi obtížné vyhovět takové nezávazné a nadnárodní výzvě.

- Posílení spolupráce a sdílení informací mezi zeměmi a nezávislými výzkumnými organizacemi v oblasti umělé inteligence je klíčové pro zajištění bezpečného vývoje a používání umělé inteligence v budoucnu. Spolupráce a sdílení informací také umožňují včasné varování a prevenci jakýchkoli nově vznikajících rizik.

Obecně je umělá inteligence již všude kolem nás a příběhy o tom, jak umělá inteligence píše poezii, hudbu a články, se staly realitou, nikoli sci-fi. Autor tohoto článku použil technologii umělé inteligence v počítačích a telefonech, aby si s psaním usnadnily práci a zrychlily celý proces. Konkrétně úvodní odstavec (chapeau) a některé nápady byly navrženy umělou inteligencí a co je ještě pozoruhodnější, všechny obrázky použité v tomto článku byly vytvořeny umělou inteligencí. Technologie umělé inteligence je velmi užitečná pro zlepšení kvality práce a života lidí, ale je třeba ji přísně kontrolovat, aby se zabránilo jejímu vymknutí kontrole a stala se potenciální náhradou za lidstvo v budoucnu, jak předpovídal teoretický fyzik Stephen Hawking.

Text a fotografie: HUU DUONG

Zdroj