Kina slår tilbake mot AI-chatboter.

De nye forskriftene vil hjelpe Kina med å stramme inn kontrollen over AI-chatboter, med sikte på å forhindre innhold relatert til selvmord, gambling og pornografi.

AI-chatboter har evnen til å manipulere brukernes følelser. Foto: AFP .

Kina planlegger å stramme inn kontrollen av AI-chatboter som kan påvirke menneskelige følelser, spesielt de med innhold som fremmer selvmord, selvskading eller annen skadelig atferd. Dette tiltaket er skissert i et utkast til nye forskrifter som ble publisert av Kinas cyberspace-administrasjon 27. desember.

Ifølge CNBCs oversettelse av dokumentet retter utkastet seg mot «menneskelignende interaktive kunstig intelligens-tjenester», som betyr AI-systemer som er i stand til å etterligne menneskelig personlighet, atferd og kommunikasjon gjennom tekst, bilder, lyd eller video . Disse forskriftene vil gjelde for alle AI-produkter og -tjenester som tilbys offentlig i Kina når de er ferdigstilt. Fristen for offentlige kommentarer varer til 25. januar.

Winston Ma, gjesteprofessor ved New York University (NYU) Law School, mener dette kan være verdens første forsøk på å etablere et juridisk rammeverk spesifikt for AI-systemer med «menneskelignende» egenskaper. Han bemerker at dette forslaget kommer samtidig som kinesiske selskaper akselererer utviklingen av virtuelle AI-assistenter.

Sammenlignet med Kinas AI-forskrifter utstedt i 2023, mener Ma at det nye utkastet viser et fokusskifte fra «innholdssikkerhet» til «emosjonell sikkerhet», noe som gjenspeiler økende bekymring for den psykologiske effekten AI har på brukere.

Utkastet til regelverk slår fast at AI-chatboter ikke må lage innhold som oppfordrer til selvmord, selvskading eller verbal vold, og heller ikke noen form for emosjonell manipulasjon som skader mental helse. I tilfeller der en bruker uttrykker selvmordstanker, må teknologitjenesteleverandøren få noen til å overta samtalen og umiddelbart kontakte brukerens verge eller utpekte person.

Videre er det forbudt for AI-chatboter å lage innhold relatert til gambling, pornografi eller vold. Mindreårige har kun lov til å bruke AI til emosjonell støtte med samtykke fra en verge og må overholde tidsfrister.

Kina strammer inn regelverket for AI-chatboter. Foto: Bloomberg .

Forslaget ble annonsert kort tid etter at to store kinesiske AI-chatbot-oppstartsselskaper, Z.ai og Minimax, søkte om børsnotering i Hong Kong i desember.

Minimax er kjent for sin Talkie AI-app og sin innenlandske versjon, Xingye, som sto for mer enn en tredjedel av selskapets inntekter i årets tre første kvartaler, med et gjennomsnitt på over 20 millioner månedlige aktive brukere. I mellomtiden opplyste Z.ai (Zhipu) at teknologien deres har blitt distribuert på omtrent 80 millioner enheter, selv om de ikke oppga spesifikke tall for aktive brukere.

I en global sammenheng får virkningen av kunstig intelligens på menneskers mentale helse økende oppmerksomhet, ettersom mange land og teknologiselskaper begynner å konfrontere de sosiale risikoene som denne teknologien utgjør.

Kilde: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html