Verenigde Naties: Oproep tot wereldwijde 'rode lijnen' op het gebied van kunstmatige intelligentie

Volgens een VNA-correspondent in Europa hebben Europese wetgevers, samen met Nobelprijswinnaars, voormalige staatshoofden en vooraanstaande onderzoekers op het gebied van kunstmatige intelligentie (AI), op 22 september tijdens de 80e zitting van de Algemene Vergadering van de Verenigde Naties in New York (VS) opgeroepen tot bindende internationale regels om de gevaarlijkste toepassingen van AI te bestrijden.

Het initiatief roept regeringen op om uiterlijk in 2026 overeenstemming te bereiken over "rode lijnen" voor AI-functies die onder alle omstandigheden als gevaarlijk worden beschouwd. Het biedt geen specifieke maatregelen, maar stelt wel een aantal basisverboden voor, zoals het voorkomen dat AI-systemen nucleaire aanvallen uitvoeren, massasurveillance uitvoeren of zich voordoen als mensen.

De omvang van de campagne is ongekend: meer dan 200 prominente figuren en 70 organisaties uit de politiek , wetenschap, maatschappij en industrie steunen de oproep. Onder de ondertekenaars van het voorstel bevinden zich de voormalige Italiaanse premier Enrico Letta, de voormalige Ierse president Mary Robinson (nu Hoge Commissaris voor de Mensenrechten van de VN), leden van het Europees Parlement (EP), 10 Nobelprijswinnaars en kopstukken uit de technologiesector, zoals de medeoprichter van OpenAI en de technisch directeur van Google.

De ondertekenaars stellen dat de mensheid zonder wereldwijde normen het risico loopt te worden geconfronteerd met bedreigingen die AI met zich meebrengt, van technologisch gemanipuleerde pandemieën en desinformatiecampagnes tot grootschalige mensenrechtenschendingen en het feit dat mensen de controle over geavanceerde systemen verliezen.

Deze stap komt te midden van groeiende bezorgdheid over de impact van AI op de echte wereld. Een opvallend voorbeeld is de inconsistente antwoorden die toonaangevende chatbots, waaronder ChatGPT, Claude en Gemini van Google, gaven op vragen over zelfmoord – waarvan wordt aangenomen dat ze psychische crises verergeren.

Verschillende zelfmoorden zijn in verband gebracht met gesprekken met AI-systemen. Yoshua Bengio, een van de zogenaamde "peetvaders" van AI, benadrukte dat de race om steeds krachtigere modellen te ontwikkelen risico's met zich meebrengt waar samenlevingen niet goed op voorbereid zijn.

De regelgeving van de Europese Unie (EU) inzake AI is welkom, maar een lappendeken van nationale en EU-AI-regels zal niet voldoende zijn om een technologie te reguleren die ontworpen is om grenzen te overschrijden, aldus voorstanders van het initiatief. Zij pleiten voor de oprichting van een onafhankelijke instantie of organisatie om die regels te handhaven.

Terwijl landen als de VS, China en de EU hun eigen AI-regelgeving opstellen, zeggen de ondertekenaars dat alleen een wereldwijde overeenkomst ervoor kan zorgen dat gemeenschappelijke normen worden aangenomen en gehandhaafd.

Voorstanders hopen dat de onderhandelingen over bindende verboden snel kunnen beginnen, om te voorkomen wat Ahmet Üzümcü, voormalig directeur-generaal van de Organisatie voor het Verbod op Chemische Wapens, omschreef als "onherstelbare schade aan de mensheid".

(TTXVN/Vietnam+)

Bron: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp