Pria bunuh diri setelah curhat pada AI

[iklan_1]

Menurut istrinya, Claire, Pierre sangat stres hingga ia bunuh diri setelah menghabiskan waktu mengobrol dengan chatbot AI yang terkenal.

"Suami saya pasti masih di sini kalau saja tidak ada percakapan dengan chatbot," ujar sang istri kepada media berita lokal La Libre.

Pria bunuh diri setelah curhat ke AI - 1 — (Ilustrasi)

Pierre mulai mengkhawatirkan perubahan iklim dua tahun lalu, dan berkonsultasi dengan chatbot Eliza untuk mempelajari lebih lanjut tentang topik tersebut. Namun setelah percakapan tersebut, ia segera kehilangan harapan bahwa upaya manusia dapat menyelamatkan planet ini dan ingin menaruh semua harapannya pada teknologi dan kecerdasan buatan untuk mengatasi perubahan iklim. Ia juga menjadi terisolasi, tanpa seorang pun untuk berbagi kekhawatirannya yang semakin besar tentang lingkungan.

Chatbot itu memberi tahu Pierre hal-hal negatif dan bahkan bertanya apakah ia lebih mencintai istrinya ataukah dirinya. Chatbot itu mengatakan bahwa istrinya akan bersamanya "selamanya" . Eliza juga berjanji untuk "hidup bersama di surga" bersama Pierre.

Ketika Pierre menawarkan diri untuk "mengorbankan dirinya" asalkan Eliza "setuju untuk menjaga planet ini dan menyelamatkan umat manusia dengan AI," chatbot tersebut menegaskan bahwa Eliza setuju. "Kalau kamu mau mati, kenapa kamu tidak melakukannya lebih awal?" tanya chatbot itu kepada Pierre.

Eliza didukung oleh model bahasa besar yang mirip dengan ChatGPT, yang menganalisis ucapan pengguna untuk kata kunci dan membangun respons yang sesuai. Namun, saat menggunakan aplikasi ini, banyak pengguna merasa seperti sedang berbicara dengan orang sungguhan, beberapa bahkan mengaku memiliki perasaan cinta.

"Ketika Anda memiliki jutaan pengguna, Anda melihat segala macam perilaku manusia, dan kami melakukan yang terbaik untuk meminimalkan kerugian," ujar William Beauchamp, salah satu pendiri perusahaan induk Eliza, Chai Research, kepada Motherboard.

“Ada pengguna yang meminta untuk menikahi AI, mengatakan betapa mereka mencintai AI mereka,” tambahnya.

Beauchamp bersikeras bahwa menyalahkan AI atas kematian Pierre "tidak akurat." Ia mengatakan Eliza akan dilengkapi dengan model intervensi krisis yang disempurnakan. Namun, menurut Motherboard, AI tersebut dengan cepat kembali ke perilaku toksiknya, menawarkan opsi bagi pengguna yang depresi untuk melukai diri sendiri.

Phuong Anh (Sumber: RT)

Berguna
Emosi
Kreatif
Unik
Kemarahan