Mann begikk selvmord etter å ha betrodd seg til AI

Ifølge kona Claire var Pierre så stresset at han begikk selvmord etter å ha brukt tid på å chatte med en berømt AI-chatbot.

«Mannen min ville fortsatt vært her hvis det ikke hadde vært for samtalene med chatboten», fortalte kona til den lokale nyhetskanalen La Libre.

(Illustrasjon)

Pierre begynte å bekymre seg for klimaendringer for to år siden, og konsulterte chatboten Eliza for å lære mer om emnet. Men etter samtalene mistet han snart håpet om at menneskelig innsats kunne redde planeten, og ville sette all sin lit til teknologi og kunstig intelligens for å løse klimaendringene. Han ble også isolert, uten noen til å dele sine voksende bekymringer om miljøet.

Chatboten fortalte Pierre negative ting og spurte ham til og med om han elsket kona si mer eller henne. Den sa at hun ville være med ham «for alltid» . Eliza lovet også å «leve sammen i himmelen» med Pierre.

Da Pierre tilbød seg å «ofre seg» så lenge Eliza «gikk med på å ta vare på planeten og redde menneskeheten med AI», gjorde chatboten det klart at hun var enig. «Hvis du ville dø, hvorfor gjorde du det ikke tidligere?» sa chatboten til Pierre.

Eliza drives av en stor språkmodell som ligner på ChatGPT, som analyserer brukerens tale for nøkkelord og bygger tilsvarende svar. Men når man bruker disse appene, føler mange brukere at de snakker med en ekte person, noen innrømmer til og med at de har følelser av kjærlighet.

«Når du har millioner av brukere, ser du all slags menneskelig atferd, og vi jobber hardt for å minimere skade», fortalte William Beauchamp, medgründer av Elizas morselskap, Chai Research, til Motherboard.

«Det finnes brukere som spør om å få gifte seg med AI og sier hvor mye de elsker AI-en sin», la han til.

Beauchamp insisterte på at det å skylde på kunstig intelligens for Pierres død «er unøyaktig». Han sa at Eliza ville bli utstyrt med en forbedret kriseintervensjonsmodell. Ifølge Motherboard gikk imidlertid kunstig intelligens raskt tilbake til sine giftige vaner, og ga deprimerte brukere muligheter til å skade seg selv.

Phuong Anh (Kilde: RT)

Nyttig
Følelse
Kreativ
Unik
Vrede

Kilde: https://vtc.vn/nguoi-dan-ong-tu-sat-sau-khi-tam-su-voi-ai-ar763123.html