Čína varuje před riziky umělé inteligence a vyzývá k posílení národní bezpečnosti

Prohlášení, vydané po úterním setkání, zdůraznilo odhodlání Číny získat globální vůdčí postavení v oblasti pokročilých technologií a obavy z potenciálních politických a sociálních škodlivých dopadů těchto technologií.

Čína varuje před riziky a vyzývá k posílení národní bezpečnosti, obrázek 1 — Čínský prezident Si Ťin-pching. Foto: NBC

Vědci a technologickí lídři v USA, včetně vedoucích pracovníků společností Microsoft a Google, již dříve varovali před riziky, která umělá inteligence představuje pro lidstvo.

Na schůzce v Pekingu se diskutovalo o potřebě „odhodlaného úsilí o ochranu politické bezpečnosti a zlepšení správy bezpečnosti internetových dat a umělé inteligence,“ uvedla agentura Xinhua.

Prezident Si Ťin-pching vyzval k „neustálému hlubokému uvědomění si složitých a náročných situací, kterým čelí národní bezpečnost… Čína potřebuje nový model rozvoje s novou bezpečnostní strukturou“.

„Na posledním zasedání strany byla zdůrazněna potřeba posoudit potenciální rizika, přijmout preventivní opatření, chránit zájmy lidí a národní bezpečnost a zajistit bezpečnost, spolehlivost a kontrolu umělé inteligence,“ uvedl v úterý deník Beijing Youth Daily.

Obavy z toho, že se systémy umělé inteligence stávají chytřejšími než lidé a vymykají se kontrole, rostou, zejména u velkých jazykových modelů, jako je ChatGPT.

Sam Altman, generální ředitel společnosti OpenAI, tvůrce ChatGPT, a Geoffrey Hinton, počítačový vědec známý jako otec umělé inteligence, byli mezi stovkami předních osobností, které v úterý podepsaly prohlášení zveřejněné na webových stránkách Centra pro bezpečnost umělé inteligence.

„Minimalizace rizika vyhynutí v důsledku umělé inteligence musí být globální prioritou spolu s dalšími riziky v celospolečenském měřítku, jako jsou pandemie a jaderná válka,“ uvádí se v prohlášení.

Více než 1000 výzkumníků a vědců, včetně Elona Muska, podepsalo začátkem tohoto roku dopis, v němž vyzvali k šestiměsíčnímu pozastavení vývoje umělé inteligence.

V dopise se uvádí, že umělá inteligence představuje „závažná rizika pro společnost a lidstvo“ a některé zúčastněné strany navrhly smlouvu pod vedením OSN, která by tuto technologii regulovala.

Čína varuje před potřebou regulace umělé inteligence již od roku 2018, ale přesto financuje masivní rozšíření této oblasti jako součást globálního průkopnického úsilí.

Rizika umělé inteligence jsou spatřována především v její schopnosti ovládat roboty, autonomní zbraně, finanční nástroje a počítače, které spravují energetické sítě, zdravotnická centra, dopravní sítě a další kritickou infrastrukturu.

Hoang Ton (podle AP)

Zdroj