Organizace spojených národů: Výzva k vytvoření globální „červené linie“ pro umělou inteligenci.

Podle evropského zpravodaje Vietnamské tiskové agentury vyzvali evropští zákonodárci 22. září na 80. zasedání Valného shromáždění OSN v New Yorku (USA) spolu s laureáty Nobelovy ceny, bývalými hlavami států a předními výzkumníky v oblasti umělé inteligence (AI) k vytvoření závazných mezinárodních pravidel pro boj s nejnebezpečnějšími aplikacemi AI.

Tato iniciativa vyzývá vlády , aby se do roku 2026 dohodly na „červených liniích“ pro funkce umělé inteligence, které jsou za jakýchkoli okolností považovány za nebezpečné. Iniciativa sice nenabízí konkrétní opatření, ale navrhuje některé základní zákazy, jako je zabránění systémům umělé inteligence v provádění jaderných útoků, hromadného sledování nebo vydávání se za lidi.

Rozsah kampaně je bezprecedentní, výzvu podpořilo přes 200 významných osobností a 70 organizací z oblasti politiky , vědy, sociálních věcí a průmyslu. Mezi těmi, kdo návrh podepsali, byli bývalý italský premiér Enrico Letta, bývalá irská prezidentka Mary Robinsonová (v současnosti vysoká komisařka OSN pro lidská práva), členové Evropského parlamentu (EP), 10 nositelů Nobelovy ceny a technologickí lídři, jako například spoluzakladatel OpenAI a hlavní technologický ředitel společnosti Google.

Signatáři tvrdí, že bez globálních standardů lidstvo riskuje hrozby, které představuje umělá inteligence, od pandemií vyvolaných technologiemi a dezinformačních kampaní až po rozsáhlé porušování lidských práv a ztrátu lidské kontroly nad pokročilými systémy.

Tento krok přichází uprostřed rostoucích obav z dopadu umělé inteligence na reálný svět. Ukázkovým příkladem jsou přední chatboti, včetně chatbotů Google ChatGPT, Claude a Gemini, kteří poskytovali nekonzistentní odpovědi na otázky týkající se sebevraždy – což potenciálně zhoršuje duševní krize.

Několik případů sebevražd bylo spojováno s rozhovory se systémy umělé inteligence. Yoshua Bengio, považovaný za jednoho z „kmotrů“ umělé inteligence, zdůrazňuje, že závod o vývoj stále silnějších modelů vytváří rizika, na která nejsou společnosti dostatečně připraveny.

Podle zastánců iniciativy jsou předpisy Evropské unie (EU) týkající se umělé inteligence vítány, ale postupné uspořádání národních a unijních pravidel pro umělou inteligenci nebude stačit k regulaci technologie určené k překračování hranic. Volají po zřízení nezávislého orgánu nebo organizace, která by tato pravidla vymáhala.

Zatímco země jako USA, Čína a členské státy EU navrhují vlastní předpisy pro umělou inteligenci, signatáři tvrdí, že pouze globální dohoda může zajistit přijetí a prosazování společných standardů.

Zastánci doufají, že jednání o závazných zákazech mohou začít rychle, aby se zabránilo tomu, co Ahmet Üzümcü, bývalý generální ředitel Organizace pro zákaz chemických zbraní, označil za „nevratné poškození lidstva“.

(VNA/Vietnam+)

Zdroj: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp