China ripostează chatboților cu inteligență artificială.

Chatboții cu inteligență artificială au capacitatea de a manipula emoțiile utilizatorilor. Foto: AFP .

China intenționează să înăsprească controalele asupra chatboților cu inteligență artificială capabili să influențeze emoțiile umane, în special pe cei cu conținut care promovează sinuciderea, autovătămarea sau alte comportamente dăunătoare. Această mișcare este prezentată într-un proiect de noi reglementări publicat de Administrația Spațiului Cibernetic din China pe 27 decembrie.

Conform traducerii documentului de către CNBC , proiectul vizează „servicii de inteligență artificială interactivă, asemănătoare oamenilor”, adică sisteme de inteligență artificială capabile să imite personalitatea, comportamentul și comunicarea umană prin text, imagini, audio sau video . Aceste reglementări se vor aplica tuturor produselor și serviciilor de inteligență artificială oferite public în China odată finalizate. Perioada de comentarii publice se extinde până pe 25 ianuarie.

Winston Ma, profesor invitat la Facultatea de Drept a Universității din New York (NYU), consideră că aceasta ar putea fi prima încercare la nivel mondial de a stabili un cadru legal specific pentru sistemele de inteligență artificială cu caracteristici „asemănătoare oamenilor”. El observă că această propunere vine în contextul în care companiile chineze accelerează dezvoltarea asistenților virtuali bazați pe inteligență artificială.

Comparativ cu reglementările chineze privind inteligența artificială emise în 2023, dl. Ma consideră că noul proiect arată o schimbare de focus de la „siguranța conținutului” la „siguranța emoțională”, reflectând îngrijorarea crescândă cu privire la impactul psihologic al inteligenței artificiale asupra utilizatorilor.

Proiectul de regulament prevede că chatboții cu inteligență artificială nu trebuie să creeze conținut care încurajează sinuciderea, autovătămarea sau violența verbală, nici orice formă de manipulare emoțională care dăunează sănătății mintale. În cazurile în care un utilizator își exprimă intenții suicidare, furnizorul de servicii tehnologice trebuie să angajeze pe cineva care să preia conversația și să contacteze imediat tutorele sau persoana desemnată a utilizatorului.

În plus, chatboților cu inteligență artificială le este interzis să creeze conținut legat de jocuri de noroc, pornografie sau violență. Minorii au voie să utilizeze inteligența artificială pentru sprijin emoțional doar cu consimțământul unui tutore și trebuie să respecte limitele de timp.

Chatbot cu inteligență artificială, fratele 1

China înăsprește reglementările privind chatboții cu inteligență artificială. Foto: Bloomberg .

Propunerea a fost anunțată la scurt timp după ce două startup-uri majore chineze de chatbot cu inteligență artificială, Z.ai și Minimax, au depus cereri pentru oferte publice inițiale (IPO) la Hong Kong în decembrie.

Minimax este cunoscută pentru aplicația sa Talkie AI și versiunea sa domestică, Xingye, care au reprezentat peste o treime din veniturile companiei în primele trei trimestre ale anului, cu o medie de peste 20 de milioane de utilizatori activi lunar. Între timp, Z.ai (Zhipu) a declarat că tehnologia sa a fost implementată pe aproximativ 80 de milioane de dispozitive, deși nu a dezvăluit un număr specific de utilizatori activi.

Într-un context global, impactul inteligenței artificiale asupra sănătății mintale umane se bucură de o atenție tot mai mare, pe măsură ce multe țări și companii de tehnologie încep să se confrunte cu riscurile sociale pe care le prezintă această tehnologie.

Sursă: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html