Zacházejte s umělou inteligencí jako s biologickou zbraní, ne s jadernou bombou!

Nedávno Gizmodo.com, webová stránka o informačních technologiích, která se specializuje na aktualizace aktuálních zpráv o světoznámých technologických trendech, zveřejnila analýzu o tom, jak by se lidé měli chovat k technologiím umělé inteligence (AI).

Chuyên gia Mỹ: Hãy đối xử với AI như vũ khí sinh học, không phải bom hạt nhân! (Nguồn: gizmodo.com)

Ilustrace výzvy k tomu, aby se s umělou inteligencí zacházelo jako s biologickou zbraní. (Zdroj: gizmodo.com)

V článku s názvem „Považujte umělou inteligenci za biologickou zbraň, ne za jadernou zbraň“ od Emilie Javorské, vědkyně -lékařky a ředitelky Institutu budoucnosti života (USA), autorka tvrdí, že i přes to, že svět v poslední době opakovaně přirovnává umělou inteligenci k jaderným bombám, existuje vhodnější přístup, kterým je regulovat tento typ technologie jako biologickou zbraň neboli biotechnologii.

Podle autora je umělá inteligence pravděpodobně nejmocnější technologií v lidské historii, kterou lidstvo dnes vyvíjí. Škodlivé účinky umělé inteligence, včetně diskriminace, ohrožení demokracie a koncentrace vlivu, byly dobře zdokumentovány.

Přední společnosti zabývající se umělou inteligencí se však předhánějí ve vývoji stále výkonnějších systémů umělé inteligence, což zvyšuje rizika rychlostí, která v lidských dějinách nemá obdoby.

Zatímco se lídři potýkají s tím, jak omezit a kontrolovat vzestup umělé inteligence a s ní spojená rizika, musí zvážit stejná pravidla a standardy, které lidstvo v minulosti použilo k jejímu vytvoření.

Přizpůsobení a inovace mohou koexistovat, zejména když jsou v sázce lidské životy.

Varování od jaderné technologie

Přestože je jaderná energie z hlediska úmrtnosti více než 600krát bezpečnější než ropa a je enormně účinná, jen málo zemí se jí dotýká kvůli důsledkům, které v důsledku dlouhodobého přístupu k jaderné energii zaznamenaly.

Svět se o jaderných technologiích dozvěděl v podobě atomové a vodíkové bomby. Díky těmto zbraním lidstvo poprvé v historii vyvinulo technologii schopnou ukončit lidskou civilizaci, produkt závodů ve zbrojení, které upřednostňovaly rychlost a inovace před bezpečností a kontrolou.

Následná selhání v technické bezpečnosti a řízení rizik, která jsou známá za jaderné katastrofy v Černobylu a Fukušimě, zničila jakoukoli šanci, že by lidé přijali pozitivní aspekty jaderné energie.

Navzdory celkově příznivému hodnocení rizik jaderné energie a desetiletím vědců, kteří se snaží přesvědčit svět o její životaschopnosti, zůstává samotný koncept „jaderné energie“… poskvrněný.

Pokud technologie způsobuje škody v raných fázích, společenské povědomí a přehnané reakce mohou trvale omezit její potenciální přínosy. Kvůli raným chybným krokům s jadernou energií lidstvo nebylo schopno využít její čistý a bezpečný zdroj energie a uhlíková neutralita a energetická stabilita zůstávají pouhým snem.

Správný přístup k biotechnologii

Přesto se v některých oblastech lidé trefili do černého. Biotechnologie je jednou z takových oblastí, která se rychle rozvíjí v kontextu mnoha pacientů, kteří denně trpí a umírají na nemoci, na které neexistuje lék.

Étosem tohoto výzkumu není „rychlý pohyb a ničení věcí“, ale co nejrychlejší a nejbezpečnější inovace. Lidé omezují tempo inovací v této oblasti systémem předpisů, etiky a norem, které chrání blaho společnosti i jednotlivců a chrání odvětví před paralyzováním zpětnou reakcí, která by mohla vést ke katastrofě.

Když byly biologické zbraně zakázány na Úmluvě o biologických zbraních během studené války, znepřátelené supervelmoci se shodly, že vytvoření takových zbraní není v ničím zájmu. Vůdci si uvědomili, že tyto obtížně kontrolovatelné, ale snadno dostupné technologie by neměly být vnímány jako mechanismus k vítězství v závodech ve zbrojení, ale jako hrozba pro samotné lidstvo.

Emilia Javorská je jednou z vědkyň, které nedávno podepsaly otevřený dopis prosazující šestiměsíční moratorium na vývoj umělé inteligence. Podepsala také prohlášení varující, že umělá inteligence představuje pro lidstvo „riziko vyhynutí“.

Pauza v závodě biologických zbraní umožňuje lidstvu rozvíjet je zodpovědným tempem, přičemž vědci a regulační orgány uplatňují přísné standardy na jakoukoli novou inovaci, která by mohla potenciálně ublížit lidem.

Tyto úpravy se neobešly bez nákladů, ale také vedly k vytvoření bioekonomiky s mnoha aplikacemi v oblastech od čisté energie až po zemědělství.

Během pandemie Covid-19 biologové aplikovali technologii mRNA k výrobě účinných vakcín rychlostí, která v historii lidstva nemá obdoby.

Nedávný průzkum mezi výzkumníky umělé inteligence zjistil, že 36 % respondentů se domnívá, že umělá inteligence by mohla způsobit katastrofu jaderné úrovně. Reakce vlád a regulace však byly pomalé, což neodpovídá tempu zavádění technologií, přičemž aplikace ChatGPT nyní překročila 100 milionů uživatelů.

Rychle rostoucí rizika umělé inteligence přiměla 1 800 generálních ředitelů a 1 500 profesorů v USA k nedávnému podpisu dopisu, v němž vyzývají k šestiměsíčnímu pozastavení vývoje umělé inteligence a k naléhavému zahájení procesu regulace a zmírňování rizik. Toto pozastavení by poskytlo globálnímu společenství čas omezit škody způsobené umělou inteligencí a zabránit riziku nevratné katastrofy pro naši společnost.

Při posuzování rizik a potenciálních škod spojených s umělou inteligencí musíme také zvážit, jak se vyhnout ztrátě ze zřetele pozitivního potenciálu této technologie. Pokud budeme umělou inteligenci vyvíjet zodpovědně nyní, budeme z ní moci těžit neuvěřitelné výhody. Například výhody plynoucí z aplikace umělé inteligence při objevování a vývoji léků, zlepšení kvality a nákladů na zdravotní péči a zvýšení přístupu k lékařům a lékařské péči.

Společnost Google DeepMind ukázala, že umělá inteligence má potenciál řešit základní biologické problémy, kterým se lidstvo dlouho vyhýbalo. Podle studie by umělá inteligence mohla urychlit dosažení všech cílů udržitelného rozvoje OSN a posunout lidstvo k budoucnosti plné lepšího zdraví, rovnosti, prosperity a míru.

Je načase, aby se globální společenství spojilo, stejně jako před 50 lety na Úmluvě o biologických zbraních, a zajistilo tak bezpečný a zodpovědný vývoj umělé inteligence. Pokud brzy nezačneme jednat, riskujeme zničení zářivé budoucnosti umělé inteligence i naší současné společnosti.

Zdroj