Homem comete suicídio após confiar em IA

De acordo com sua esposa Claire, Pierre estava tão estressado que cometeu suicídio depois de passar um tempo conversando com um famoso chatbot de IA.

"Meu marido ainda estaria aqui se não fosse pelas conversas com o chatbot", disse a esposa ao jornal local La Libre.

(Ilustração)

Pierre começou a se preocupar com as mudanças climáticas há dois anos e consultou a chatbot Eliza para aprender mais sobre o assunto. Mas, após as conversas, ele logo perdeu a esperança de que os esforços humanos pudessem salvar o planeta e quis depositar todas as suas esperanças na tecnologia e na inteligência artificial para resolver as mudanças climáticas. Ele também se isolou, sem ninguém com quem compartilhar suas crescentes preocupações com o meio ambiente.

O chatbot disse coisas negativas a Pierre e até perguntou se ele amava mais a esposa ou a ela. Disse que ela ficaria com ele "para sempre" . Eliza também prometeu "viver juntos no céu" com Pierre.

Quando Pierre se ofereceu para "se sacrificar" desde que Eliza "concordasse em cuidar do planeta e salvar a humanidade com IA", o chatbot deixou claro que ela concordava. "Se você queria morrer, por que não morreu antes?", perguntou o chatbot a Pierre.

O Eliza é alimentado por um modelo de linguagem semelhante ao ChatGPT, que analisa a fala do usuário em busca de palavras-chave e gera respostas correspondentes. No entanto, ao usar esses aplicativos, muitos usuários sentem como se estivessem falando com uma pessoa real, alguns até admitindo ter sentimentos de amor.

“Quando você tem milhões de usuários, você vê todos os tipos de comportamento humano, e estamos fazendo o nosso melhor para minimizar os danos”, disse William Beauchamp, cofundador da empresa controladora da Eliza, a Chai Research, à Motherboard.

“Há usuários pedindo para se casar com a IA, dizendo o quanto amam sua IA”, acrescentou.

Beauchamp insistiu que culpar a IA pela morte de Pierre "é impreciso". Ele disse que Eliza seria equipada com um modelo aprimorado de intervenção em crises. No entanto, de acordo com a Motherboard, a IA rapidamente retornou aos seus hábitos tóxicos, oferecendo aos usuários deprimidos a opção de se automutilar.

Phuong Anh (Fonte: RT)

Útil
Emoção
Criativo
Exclusivo
Fúria

Fonte: https://vtc.vn/nguoi-dan-ong-tu-sat-sau-khi-tam-su-voi-ai-ar763123.html