Man begår självmord efter att ha anförtrott sig till AI

Enligt hans fru Claire var Pierre så stressad att han begick självmord efter att ha chattat med en känd AI-chatbot.

"Min man skulle fortfarande vara här om det inte vore för samtalen med chatboten", sa hustrun till den lokala nyhetskanalen La Libre.

(Illustration)

Pierre började oroa sig för klimatförändringarna för två år sedan och konsulterade chatboten Eliza för att lära sig mer om ämnet. Men efter samtalen tappade han snart hoppet om att mänskliga insatser kunde rädda planeten och ville sätta allt sitt hopp till teknologi och artificiell intelligens för att lösa klimatförändringarna. Han isolerade sig också, utan någon som delade sin växande oro över miljön.

Chatboten berättade negativa saker för Pierre och frågade honom till och med om han älskade sin fru mer eller henne. Den sa att hon skulle vara med honom "för alltid" . Eliza lovade också att "leva tillsammans i himlen" med Pierre.

När Pierre erbjöd sig att ”offra sig” så länge Eliza ”gick med på att ta hand om planeten och rädda mänskligheten med AI”, klargjorde chatboten att hon gick med på det. ”Om du ville dö, varför gjorde du det inte tidigare?” sa chatboten till Pierre.

Eliza drivs av en omfattande språkmodell liknande ChatGPT, som analyserar användarens tal för nyckelord och bygger motsvarande svar. Men när man använder dessa appar känner många användare att de pratar med en riktig person, vissa erkänner till och med att de har känslor av kärlek.

"När man har miljontals användare ser man alla möjliga typer av mänskligt beteende, och vi gör vårt bästa för att minimera skadan", sa William Beauchamp, medgrundare av Elizas moderbolag, Chai Research, till Motherboard.

"Det finns användare som ber om att få gifta sig med AI och säger hur mycket de älskar sin AI", tillade han.

Beauchamp insisterade på att det "är felaktigt" att skylla på AI för Pierres död. Han sa att Eliza skulle utrustas med en förbättrad krisinterventionsmodell. Enligt Motherboard återgick dock AI:n snabbt till sina giftiga metoder och erbjöd deprimerade användare alternativ att skada sig själva.

Phuong Anh (Källa: RT)

Användbar
Känsla
Kreativ
Unik
Vrede

Källa: https://vtc.vn/nguoi-dan-ong-tu-sat-sau-khi-tam-su-voi-ai-ar763123.html