China waarschuwt voor de risico's van AI en roept op tot versterking van de nationale veiligheid.

De verklaring, die na de bijeenkomst van dinsdag werd uitgegeven, onderstreepte China's vastberadenheid om wereldwijd leiderschap te verwerven op het gebied van geavanceerde technologieën en de zorgen over de mogelijke politieke en maatschappelijke schade die deze technologieën kunnen aanrichten.

De Chinese president Xi Jinping. Foto: NBC

Eerder hadden wetenschappers en technologieleiders in de VS, waaronder topfunctionarissen van Microsoft en Google, ook al gewaarschuwd voor de risico's die kunstmatige intelligentie voor de mensheid met zich meebrengt.

Het persagentschap Xinhua meldde dat tijdens de bijeenkomst in Peking de noodzaak werd besproken van "speciale inspanningen om de politieke veiligheid te waarborgen en het beheer van internetgegevensbeveiliging en kunstmatige intelligentie te verbeteren".

President Xi Jinping riep op om "altijd zeer bewust te zijn van de complexe en uitdagende situaties waarmee de nationale veiligheid wordt geconfronteerd... China heeft een nieuw ontwikkelingsmodel met een nieuwe veiligheidsstructuur nodig."

"Tijdens de meest recente partijbijeenkomst werd de noodzaak benadrukt om potentiële risico's te beoordelen, preventieve maatregelen te nemen, de belangen van de bevolking en de nationale veiligheid te beschermen en de veiligheid, betrouwbaarheid en beheersbaarheid van AI te waarborgen," meldde de Beijing Youth Daily dinsdag.

De bezorgdheid groeit dat kunstmatige intelligentiesystemen slimmer worden dan mensen en uit de hand lopen, vooral bij grootschalige taalmodellen zoals ChatGPT.

Sam Altman, CEO van OpenAI, de maker van ChatGPT, en Geoffrey Hinton, een computerwetenschapper die wel de vader van de kunstmatige intelligentie wordt genoemd, behoren tot de honderden vooraanstaande figuren die dinsdag een verklaring hebben ondertekend die op de website van het AI Safety Center is gepubliceerd.

"Het minimaliseren van het risico op uitsterven als gevolg van AI moet een wereldwijde prioriteit zijn, naast andere maatschappelijke risico's zoals pandemieën en een nucleaire oorlog," aldus de verklaring.

Meer dan 1000 onderzoekers en wetenschappers, onder wie Elon Musk, ondertekenden eerder dit jaar een brief waarin ze opriepen tot een pauze van zes maanden in de ontwikkeling van kunstmatige intelligentie.

In de brief stond dat AI "grote risico's voor de samenleving en de mensheid" met zich meebrengt en dat sommige belanghebbenden een VN-verdrag hebben voorgesteld om de technologie te reguleren.

Al in 2018 waarschuwde China voor de noodzaak om AI te reguleren, maar financierde desondanks grootschalige uitbreiding op dit gebied als onderdeel van een wereldwijde pioniersinspanning.

De risico's van AI worden vooral gezien in het potentieel om robots, autonome wapens, financiële instrumenten en computers te besturen die elektriciteitsnetten, medische centra, transportnetwerken en andere cruciale infrastructuur beheren.

Hoang Ton (volgens AP)

Bron: https://www.congluan.vn/trung-quoc-canh-bao-rui-ro-ai-keu-goi-tang-cuong-an-ninh-quoc-gia-post249937.html