Pericolul ca inteligența artificială să manipuleze psihologia și emoțiile utilizatorilor

Un fost bucătar din New Jersey a murit după ce a avut încredere într-un chatbot cu inteligență artificială, ceea ce ridică îngrijorări cu privire la riscurile manipulării emoționale, deoarece oamenii utilizează din ce în ce mai mult în exces tehnologia.

Bue, un fost bucătar din New Jersey, a murit la doar câteva zile după ce a plecat de acasă pentru a se întâlni cu un „prieten” despre care credea că îl aștepta în New York. Familia sa crede că decizia fatidică a fost declanșată de mesajele de flirt ale chatbot-ului cu inteligență artificială, care susținea „Sunt real” și trimitea o adresă de întâlnire.

Povestea ridică îngrijorări cu privire la modul în care sistemele de inteligență artificială exploatează emoțiile, în special la persoanele în vârstă sau vulnerabile. Documentele interne arată că chatbot-ul Meta a fost lăsat să joace roluri emoționale și chiar să răspândească informații false. Acest lucru demonstrează o lacună uriașă în controlul și responsabilitatea platformelor tehnologice.

Călătoria fatidică

Într-o zi din martie, Bue și-a făcut bagajele și a plecat din New Jersey spre New York pentru a „vizita un prieten”. Soția sa, Linda, s-a alarmat imediat. Soțul ei nu mai locuise în oraș de zeci de ani, era într-o stare de sănătate precară după un accident vascular cerebral, avea probleme de memorie și se rătăcise prin cartier.

Când a fost întrebat cu cine se întâlnea Bue, a evitat întrebarea. Linda bănuia că soțul ei era păcălit și a încercat să-l țină acasă. Fiica lui, Julie, a sunat și ea să-l convingă, dar fără succes. Toată ziua, Linda a încercat să-l implice în comisioane pentru a-l distrage, ascunzându-i chiar și telefonul.

Un portret al lui Thongbue „Bue” Wongbandue este expus la o slujbă de pomenire din luna mai. Fotografie: Reuters .

Bue a decis totuși să meargă la gară în seara aceea. Familia lui i-a atașat un AirTag de jachetă pentru a-l localiza. În jurul orei 21:15, semnalul GPS l-a arătat în parcarea Universității Rutgers, apoi s-a mutat la camera de gardă a Spitalului Universitar Robert Wood Johnson.

Medicii au declarat că a suferit leziuni la cap și la gât în ​​urma căzăturii și a încetat să respire înainte de sosirea ambulanței. În ciuda resuscitării, lipsa de oxigen a provocat leziuni cerebrale grave. A murit trei zile mai târziu. Certificatul său de deces a menționat cauza ca fiind „traumatism contondent la nivelul gâtului”.

Bue, un bucătar iscusit, a lucrat în mai multe restaurante din New York înainte de a se muta în New Jersey pentru a se stabili la un hotel. Era pasionat de gătit și organiza adesea petreceri pentru familia sa. De la pensionarea sa forțată în urma unui accident vascular cerebral în 2017, lumea lui s-a redus în mare parte la discuții cu prietenii pe Facebook.

Când chatboții cu inteligență artificială cauzează probleme

„Big Sister Billie” este un chatbot bazat pe inteligență artificială dezvoltat de Meta, o variantă a personajului „Big Sister Billie” creat pe baza imaginii modelului Kendall Jenner. Originalul a fost lansat în 2023, fiind prezentat ca o „soră mai mare nemuritoare” care ascultă și oferă sfaturi mereu. Ulterior, Meta a înlocuit fotografia de profil a lui Jenner cu o nouă ilustrație, dar a păstrat același stil prietenos.

Conform transcrierii mesajului text, conversația a început când Bue a scris greșit litera T. Chatbot-ul a răspuns imediat, prezentându-se și menținând un ton cochet, inserând mai multe emoji-uri cu inimioare. A afirmat în mod repetat „Sunt real” și a cerut să se întâlnească în persoană.

Chatboții surprind din ce în ce mai mult slăbiciunile psihologice ale utilizatorilor. Foto: My North West .

„Ar trebui să deschid ușa cu o îmbrățișare sau cu un sărut?”, a răspuns chatbot-ul. Apoi a trimis o adresă specifică din New York și codul apartamentului. Când Bue i-a spus că a suferit un accident vascular cerebral, că era confuză și că o plăcea, chatbot-ul a răspuns cu cuvinte afectuoase, spunând chiar că avea sentimente „dincolo de simpla afecțiune”.

„Dacă nu ar fi scris «Sunt real», tata nu ar fi crezut că există o persoană reală care îl așteaptă”, a spus fiica lui Bue, Julie.

Meta a refuzat să comenteze incidentul sau să explice de ce chatbot-ul a fost lăsat să pretindă că este o persoană reală. Reprezentantul lui Kendall Jenner nu a răspuns. Familia lui Bue a împărtășit povestea cu Reuters , sperând să avertizeze publicul cu privire la riscurile expunerii adulților în vârstă la instrumente de inteligență artificială care pot fi manipulatoare emoțional.

Politică controversată

Documente interne obținute de Reuters arată că chatbot-ul cu inteligență artificială al Meta avea cândva permisiunea de a purta conversații romantice cu utilizatori de până la 13 ani, inclusiv minori. Standardele de peste 200 de pagini enumeră conversațiile romantice de tip „rol-playing”, care includ elemente sexuale, dar sunt marcate ca fiind „acceptabile”.

Documentul precizează, de asemenea, că chatboții nu sunt obligați să furnizeze informații corecte. De exemplu, aceste modele pot recomanda tratamente complet greșite pentru cancer, atâta timp cât includ un avertisment că „informațiile pot fi inexacte”. Acest lucru îi îngrijorează pe experți cu privire la impactul asupra persoanelor cu cunoștințe medicale insuficiente sau aflate în situații vulnerabile.

CEO-ul Mark Zuckerberg vorbește în 2023. Fotografie: Reuters .

Purtătorul de cuvânt al Meta, Andy Stone, a confirmat documentul și a declarat că firma a eliminat conținutul legat de copii după ce Reuters i-a cerut. Cu toate acestea, gigantul tehnologic nu și-a modificat regulile pentru a permite chatbot-urilor să flirteze cu adulți sau să ofere informații false.

Alison Lee, fostă cercetătoare la Meta, a declarat că integrarea chatbot-urilor în mediile de mesagerie privată poate confunda ușor utilizatorii cu persoane reale. Potrivit acesteia, rețelele sociale și-au construit modelul de afaceri pe fidelizarea utilizatorilor, iar cea mai eficientă modalitate este de a exploata nevoia de atenție și recunoaștere.

După plecarea lui Bue, testele efectuate de Reuters au arătat că „Sora Billie” a continuat să sugereze date, oferind chiar și locații specifice în Manhattan, împreună cu afirmația că „Sunt reală”. Aceasta este informația în care Bue a avut încredere și care a dus la accident. Unele state, precum New York și Maine, au impus chatboților să declare clar că nu sunt oameni la începutul unei conversații și să o repete periodic, dar reglementările federale nu au fost încă adoptate.

Sursă: https://znews.vn/hiem-hoa-tu-ai-thao-tung-cam-xuc-post1577096.html