Organizace spojených národů: Výzva k stanovení globálních „červených linií“ pro umělou inteligenci

Podle evropského zpravodaje VNA vyzvali evropští zákonodárci na 80. zasedání Valného shromáždění OSN v New Yorku (USA) 22. září spolu s nositeli Nobelovy ceny, bývalými hlavami států a předními výzkumníky v oblasti umělé inteligence (AI) k zavedení závazných mezinárodních pravidel pro boj s nejnebezpečnějšími aplikacemi AI.

Iniciativa vyzývá vlády , aby se do roku 2026 dohodly na „červených liniích“ pro funkce umělé inteligence, které jsou za všech okolností považovány za nebezpečné. Nenabízí konkrétní opatření, ale navrhuje některé základní zákazy, jako je zabránění systémům umělé inteligence v provádění jaderných útoků, hromadného sledování nebo vydávání se za lidi.

Rozsah kampaně je bezprecedentní, výzvu podporuje více než 200 významných osobností a 70 organizací z oblasti politiky , vědy, společnosti a průmyslu. Mezi těmi, kdo návrh podepsali, jsou bývalý italský premiér Enrico Letta, bývalá irská prezidentka Mary Robinsonová (nyní vysoká komisařka OSN pro lidská práva), členové Evropského parlamentu (EP), 10 nositelů Nobelovy ceny a technologickí lídři, jako je spoluzakladatel OpenAI a technický ředitel společnosti Google.

Signatáři tvrdí, že bez globálních standardů lidstvo riskuje hrozby, které představuje umělá inteligence, od technologicky vyvolaných pandemií a dezinformačních kampaní až po rozsáhlé porušování lidských práv a ztrátu kontroly nad pokročilými systémy lidmi.

Tento krok přichází uprostřed rostoucích obav z dopadu umělé inteligence na reálný svět. Jedním z pozoruhodných příkladů jsou přední chatboti, včetně ChatGPT od Googlu, Claude a Gemini, kteří poskytovali nekonzistentní odpovědi na otázky týkající se sebevraždy – o nichž se předpokládá, že zhoršují krize duševního zdraví.

Několik sebevražd bylo spojováno s rozhovory se systémy umělé inteligence. Yoshua Bengio, jeden z takzvaných „kmotrů“ umělé inteligence, zdůraznil, že závod o vývoj stále výkonnějších modelů vytváří rizika, na která jsou společnosti špatně připraveny.

Předpisy Evropské unie (EU) týkající se umělé inteligence jsou vítány, ale směsice národních a unijních pravidel pro umělou inteligenci nebude stačit k regulaci technologie, která je navržena tak, aby překračovala hranice států, tvrdí zastánci iniciativy. Volají po vytvoření nezávislého orgánu nebo organizace, která by tato pravidla vymáhala.

Zatímco země jako USA, Čína a členské státy EU navrhují vlastní předpisy pro umělou inteligenci, signatáři tvrdí, že pouze globální dohoda může zajistit přijetí a prosazování společných standardů.

Zastánci doufají, že jednání o závazných zákazech mohou začít rychle, aby se zabránilo tomu, co Ahmet Üzümcü, bývalý generální ředitel Organizace pro zákaz chemických zbraní, označil za „nevratné poškození lidstva“.

(TTXVN/Vietnam+)

Zdroj: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp