Čína a Západ identifikují „červené linie“ rizik umělé inteligence

Skupina významných mezinárodních expertů se minulý týden sešla v Pekingu, kde identifikovala „červené linie“ ve vývoji umělé inteligence, včetně vytváření biologických zbraní a provádění kybernetických útoků.

V prohlášení několik dní po setkání akademici varovali, že je zapotřebí společný přístup k bezpečnosti umělé inteligence, aby se zabránilo „katastrofickým nebo dokonce existenčním rizikům pro lidstvo v našich životech“.

„Na vrcholu studené války pomohla mezinárodní vládní a vědecká spolupráce zabránit jaderné katastrofě. Lidstvo musí opět spolupracovat, aby zabránilo katastrofě, která by mohla vzniknout v důsledku bezprecedentní technologie,“ uvádí se v prohlášení.

Čínští a západní vědci určují hranici oceánu (obrázek 1) — Odborníci na Mezinárodním dialogu o bezpečnosti umělé inteligence v Pekingu identifikovali „červené čáry“ ve vývoji umělé inteligence. Foto: FT

Mezi signatáři patří Geoffrey Hinton a Yoshua Bengio, kteří jsou často označováni za „otce“ umělé inteligence; Stuart Russell, profesor informatiky na Kalifornské univerzitě; a Andrew Yao, jeden z nejvýznamnějších čínských počítačových vědců.

Toto prohlášení přichází po Mezinárodním dialogu o bezpečnosti umělé inteligence v Pekingu minulý týden, setkání, kterého se zúčastnili čínští vládní úředníci, aby vyjádřili svůj souhlas s fórem a jeho výsledky.

Americký prezident Joe Biden a čínský prezident Si Ťin-pching se setkali v listopadu loňského roku a diskutovali o bezpečnosti umělé inteligence. Dohodli se na zahájení dialogu o této problematice. Přední světové společnosti v oblasti umělé inteligence se v posledních měsících také soukromě setkaly s čínskými experty na umělou inteligenci.

V listopadu 2023 se 28 zemí, včetně Číny, a předních společností zabývajících se umělou inteligencí během summitu o bezpečnosti umělé inteligence, který uspořádal britský ministr financí Rishi Sunak, dohodlo na širokém závazku spolupracovat na řešení existenčních rizik vyplývajících z pokročilé umělé inteligence.

Minulý týden v Pekingu experti diskutovali o hrozbách spojených s vývojem „umělé obecné inteligence – AGI“, neboli systémů umělé inteligence, které jsou rovnocenné nebo nadřazené lidem.

„Hlavním tématem diskuse byly červené linie, které by žádný výkonný systém umělé inteligence neměl překročit a které by měly vlády po celém světě zavést při vývoji a zavádění umělé inteligence,“ řekl Bengio.

Tato omezení by zajistila, že „žádný systém umělé inteligence se nemůže replikovat ani vylepšovat bez výslovného lidského souhlasu a podpory“ nebo „podniknout kroky, které nepřiměřeně zvyšují jeho moc a vliv“.

Vědci dodali, že žádný systém by „významně nezlepšil schopnost aktérů navrhovat zbraně hromadného ničení, porušovat úmluvy o biologických nebo chemických zbraních“ ani by nebyl schopen „automaticky provádět kybernetické útoky, které by vedly k vážným finančním ztrátám nebo ekvivalentní újmě“.

Hoang Hai (podle FT)

Zdroj