China slaat terug tegen AI-chatbots.

AI-chatbots hebben het vermogen om de emoties van gebruikers te manipuleren. Foto: AFP .

China is van plan de controle op AI-chatbots die menselijke emoties kunnen beïnvloeden, aan te scherpen, met name chatbots met inhoud die zelfmoord, zelfverminking of ander schadelijk gedrag promoot. Deze stap staat beschreven in een ontwerp van nieuwe regelgeving die op 27 december is gepubliceerd door de Chinese cyberautoriteit.

Volgens de vertaling van CNBC richt het ontwerp zich op "mensachtige interactieve kunstmatige intelligentiediensten", oftewel AI-systemen die in staat zijn om de persoonlijkheid, het gedrag en de communicatie van mensen na te bootsen via tekst, afbeeldingen, audio of video . Deze regelgeving zal, zodra deze definitief is, van toepassing zijn op alle AI-producten en -diensten die in China openbaar worden aangeboden. De periode voor openbare reacties loopt tot 25 januari.

Winston Ma, gasthoogleraar aan de rechtenfaculteit van de New York University (NYU), is van mening dat dit de eerste poging ter wereld zou kunnen zijn om een juridisch kader te creëren specifiek voor AI-systemen met "mensachtige" kenmerken. Hij merkt op dat dit voorstel komt op een moment dat Chinese bedrijven de ontwikkeling van virtuele AI-assistenten versnellen.

Vergeleken met de Chinese AI-regelgeving uit 2023, is de heer Ma van mening dat het nieuwe ontwerp een verschuiving laat zien van "inhoudelijke veiligheid" naar "emotionele veiligheid", wat de groeiende bezorgdheid over de psychologische impact van AI op gebruikers weerspiegelt.

De conceptregelgeving stelt dat AI-chatbots geen inhoud mogen creëren die zelfmoord, zelfbeschadiging of verbaal geweld aanmoedigt, noch enige vorm van emotionele manipulatie die de geestelijke gezondheid schaadt. In gevallen waarin een gebruiker suïcidale intenties uitspreekt, moet de technologieaanbieder iemand het gesprek laten overnemen en onmiddellijk contact opnemen met de voogd of aangewezen persoon van de gebruiker.

Bovendien is het AI-chatbots verboden om content te creëren die verband houdt met gokken, pornografie of geweld. Minderjarigen mogen AI alleen gebruiken voor emotionele ondersteuning met toestemming van een voogd en moeten zich aan tijdslimieten houden.

AI-chatbot, broer 1

China scherpt de regelgeving voor AI-chatbots aan. Foto: Bloomberg .

Het voorstel werd aangekondigd kort nadat twee grote Chinese AI-chatbot-startups, Z.ai en Minimax, in december een aanvraag hadden ingediend voor een beursgang (IPO) in Hongkong.

Minimax staat bekend om zijn Talkie AI-app en de binnenlandse versie daarvan, Xingye, die in de eerste drie kwartalen van het jaar goed was voor meer dan een derde van de omzet van het bedrijf, met gemiddeld meer dan 20 miljoen actieve gebruikers per maand. Z.ai (Zhipu) gaf aan dat zijn technologie op ongeveer 80 miljoen apparaten is geïmplementeerd, maar maakte geen specifieke aantallen actieve gebruikers bekend.

In een mondiale context krijgt de impact van AI op de geestelijke gezondheid van mensen steeds meer aandacht, nu veel landen en technologiebedrijven de sociale risico's van deze technologie onder ogen beginnen te zien.

Bron: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html