Verenigde Naties: Een oproep tot een wereldwijde "rode lijn" voor kunstmatige intelligentie.

Volgens de correspondent van het Vietnamese persbureau in Europa riepen Europese wetgevers, samen met Nobelprijswinnaars, voormalige staatshoofden en vooraanstaande onderzoekers op het gebied van kunstmatige intelligentie (AI), op 22 september tijdens de 80e zitting van de Algemene Vergadering van de Verenigde Naties in New York (VS) op tot bindende internationale regels om de gevaarlijkste toepassingen van AI te bestrijden.

Dit initiatief roept regeringen op om uiterlijk in 2026 overeenstemming te bereiken over "rode lijnen" voor AI-functies die onder alle omstandigheden als gevaarlijk worden beschouwd. Hoewel er geen specifieke maatregelen worden genoemd, suggereert het initiatief enkele basisverboden, zoals het voorkomen dat AI-systemen nucleaire aanvallen uitvoeren, massale surveillance verrichten of zich voordoen als mensen.

De campagne heeft een ongekende reikwijdte, met meer dan 200 prominente figuren en 70 organisaties uit de politiek , wetenschap, maatschappij en het bedrijfsleven die de oproep steunen. Onder de ondertekenaars van het voorstel bevonden zich de voormalige Italiaanse premier Enrico Letta, de voormalige Ierse president Mary Robinson (momenteel Hoge Commissaris van de VN voor de Mensenrechten), leden van het Europees Parlement, 10 Nobelprijswinnaars en technologieleiders zoals de medeoprichter van OpenAI en de chief technology officer van Google.

De ondertekenaars stellen dat de mensheid zonder wereldwijde standaarden het risico loopt bedreigd te worden door AI, variërend van door technologie veroorzaakte pandemieën en desinformatiecampagnes tot grootschalige mensenrechtenschendingen en het verlies van menselijke controle over geavanceerde systemen.

Deze stap komt te midden van groeiende zorgen over de impact van AI op de echte wereld. Een goed voorbeeld hiervan zijn toonaangevende chatbots, waaronder Google's ChatGPT, Claude en Gemini, die tegenstrijdige antwoorden hebben gegeven op vragen over zelfmoord – wat mogelijk de psychische crisis verergert.

Verschillende zelfmoordgevallen zijn in verband gebracht met gesprekken met AI-systemen. Yoshua Bengio, die wordt beschouwd als een van de "grondleggers" van AI, benadrukt dat de wedloop om steeds krachtigere modellen te ontwikkelen risico's met zich meebrengt waar samenlevingen niet voldoende op voorbereid zijn.

Volgens voorstanders van het initiatief zijn de regelgevingen van de Europese Unie (EU) inzake kunstmatige intelligentie (AI) welkom, maar een onsamenhangende mix van nationale en EU-regels voor AI zal niet volstaan om een technologie te reguleren die ontworpen is om grenzen te overstijgen. Zij pleiten voor de oprichting van een onafhankelijk orgaan of organisatie om die regels te handhaven.

Terwijl landen als de VS, China en EU-lidstaten hun eigen AI-regelgeving opstellen, stellen de ondertekenaars dat alleen een wereldwijde overeenkomst kan garanderen dat gemeenschappelijke normen worden aangenomen en gehandhaafd.

Voorstanders hopen dat de onderhandelingen over bindende verboden snel van start kunnen gaan, om te voorkomen wat Ahmet Üzümcü, voormalig directeur-generaal van de Organisatie voor het Verbod op Chemische Wapens, omschreef als "onomkeerbare schade aan de mensheid".

Reactie (0)