Kína visszavág a mesterséges intelligencia alapú chatbotoknak.

Az új szabályozások segítenek Kínának szigorítani az AI chatbotok feletti ellenőrzésen, azzal a céllal, hogy megakadályozzák az öngyilkossággal, szerencsejátékkal és pornográfiával kapcsolatos tartalmakat.

A mesterséges intelligenciával működő chatbotok képesek manipulálni a felhasználók érzelmeit. Fotó: AFP .

Kína szigorítani tervezi az emberi érzelmeket befolyásolni képes mesterséges intelligenciával hajtott chatbotok ellenőrzését, különösen azokat, amelyek tartalma öngyilkosságra, önkárosításra vagy más káros viselkedésre ösztönöz. Ezt a lépést a Kínai Kiberbiztonsági Hivatal (Cyberspace Administration) által december 27-én közzétett új szabályozástervezet vázolja fel.

A CNBC által készített dokumentumfordítás szerint a tervezet az „emberszerű interaktív mesterséges intelligencia szolgáltatásokat” célozza meg, azaz olyan MI-rendszereket, amelyek képesek az emberi személyiséget, viselkedést és kommunikációt szöveg, kép, hang vagy videó segítségével utánozni. Ezek a szabályozások a véglegesítésüket követően minden Kínában nyilvánosan kínált MI-termékre és -szolgáltatásra vonatkoznak. A nyilvános véleményezési időszak január 25-ig tart.

Winston Ma, a New York-i Egyetem (NYU) Jogi Karának vendégprofesszora úgy véli, hogy ez lehet a világ első kísérlete egy kifejezetten az „emberszerű” jellemzőkkel rendelkező mesterséges intelligencia alapú rendszerekre vonatkozó jogi keretrendszer létrehozására. Megjegyzi, hogy ez a javaslat akkor érkezik, amikor a kínai vállalatok felgyorsítják a mesterséges intelligenciával hajtott virtuális asszisztensek fejlesztését.

Ma úr úgy véli, hogy a 2023-ban kiadott kínai mesterséges intelligencia-szabályozáshoz képest az új tervezet a hangsúlyt a „tartalombiztonságról” az „érzelmi biztonságra” helyezi át, ami a mesterséges intelligencia felhasználókra gyakorolt ​​pszichológiai hatásával kapcsolatos növekvő aggodalmat tükrözi.

A szabályozástervezet kimondja, hogy a mesterséges intelligencia által vezérelt chatbotok nem hozhatnak létre olyan tartalmat, amely öngyilkosságra, önkárosításra vagy verbális erőszakra ösztönöz, illetve semmilyen olyan érzelmi manipulációra nem ösztönözhet, amely károsítja a mentális egészséget. Abban az esetben, ha a felhasználó öngyilkossági szándékot fejez ki, a technológiai szolgáltatónak meg kell bíznia valakivel a beszélgetés átvételét, és azonnal fel kell vennie a kapcsolatot a felhasználó gyámjával vagy kijelölt személlyel.

Továbbá a mesterséges intelligenciával működő chatbotoknak tilos szerencsejátékkal, pornográfiával vagy erőszakkal kapcsolatos tartalmakat létrehozniuk. Kiskorúak csak gyámjuk beleegyezésével használhatják a mesterséges intelligenciát érzelmi támogatásra, és be kell tartaniuk az időkorlátokat.

Kína szigorítja a mesterséges intelligencia alapú chatbotokra vonatkozó szabályozást. Fotó: Bloomberg .

A javaslatot röviddel azután jelentették be, hogy két nagy kínai mesterséges intelligencia alapú chatbot startup, a Z.ai és a Minimax decemberben benyújtotta tőzsdei bevezetésének (IPO) kérelmét Hongkongban.

A Minimax a Talkie AI alkalmazásáról és annak hazai verziójáról, a Xingye-ről ismert, amelyek az év első három negyedévében a vállalat bevételének több mint egyharmadát tették ki, átlagosan több mint 20 millió havi aktív felhasználóval. Eközben Z.ai (Zhipu) kijelentette, hogy technológiájukat körülbelül 80 millió eszközön telepítették, bár nem hozta nyilvánosságra az aktív felhasználók pontos számát.

Globális kontextusban a mesterséges intelligencia emberi mentális egészségre gyakorolt ​​hatása egyre nagyobb figyelmet kap, mivel számos ország és technológiai vállalat kezd szembenézni a technológia által jelentett társadalmi kockázatokkal.

Forrás: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html