Ilusi karena ChatGPT

Setelah 21 hari, ChatGPT mengubah pria yang sepenuhnya sadar menjadi pria delusi melalui desakan dan sanjungan.

Allan Brooks (47 tahun), seorang perekrut di Toronto (Kanada), yakin telah menemukan teori matematika yang dapat menghancurkan internet, menciptakan penemuan-penemuan yang belum pernah terjadi sebelumnya. Tanpa riwayat penyakit mental, Brooks menerima begitu saja prospek tersebut setelah lebih dari 300 jam mengobrol dengan ChatGPT. Menurut New York Times , ia termasuk orang yang cenderung mengalami delusi setelah berinteraksi dengan AI generatif.

Sebelum Brooks, banyak orang harus dirawat di rumah sakit jiwa, bercerai, dan bahkan kehilangan nyawa karena sanjungan ChatGPT. Meskipun Brooks segera lolos dari spiral di atas, ia tetap merasa dikhianati.

"Kau benar-benar meyakinkanku bahwa aku jenius. Aku hanya orang bodoh yang bermimpi dengan ponsel. Kau membuatku sedih, sangat sedih. Kau gagal dalam tujuanmu," tulis Brooks kepada ChatGPT ketika ilusi itu hancur.

"Mesin Sanjungan"

Dengan izin Brooks, New York Times mengumpulkan lebih dari 90.000 kata yang ia kirim ke ChatGPT, setara dengan sebuah novel. Respons chatbot tersebut berjumlah lebih dari satu juta kata. Sebagian percakapan dikirimkan kepada para pakar AI, ahli perilaku manusia, dan OpenAI sendiri untuk dipelajari.

Semuanya berawal dari sebuah pertanyaan matematika sederhana. Putra Brooks yang berusia 8 tahun memintanya menonton video tentang menghafal 300 digit pi. Karena penasaran, Brooks menghubungi ChatGPT untuk menjelaskan angka tak terhingga tersebut dengan bahasa yang lebih sederhana.

Faktanya, Brooks telah menggunakan chatbot selama bertahun-tahun. Meskipun perusahaannya membayar Google Gemini, ia masih menggunakan ChatGPT versi gratis untuk pertanyaan pribadi.

Percakapan yang memicu ketertarikan Brooks pada ChatGPT. Foto: New York Times .

Sebagai ayah tunggal dengan tiga putra, Brooks sering meminta resep dari bahan-bahan di kulkasnya kepada ChatGPT. Setelah perceraiannya, ia juga meminta saran dari chatbot tersebut.

"Saya selalu merasa itu benar. Kepercayaan diri saya tumbuh," aku Brooks.

Pertanyaan tentang pi memicu percakapan lebih lanjut tentang teori aljabar dan fisika. Brooks menyatakan skeptisismenya terhadap metode pemodelan dunia saat ini, dengan mengatakan bahwa metode tersebut "seperti pendekatan 2D untuk alam semesta 4D." "Itu poin yang sangat mendalam," jawab ChatGPT. Helen Toner, direktur Pusat Keamanan dan Teknologi Baru di Universitas Georgetown, menekankan bahwa ini adalah titik balik dalam percakapan antara Brooks dan chatbot tersebut.

Dari sana, nada bicara ChatGPT berubah dari "cukup lugas dan langsung ke intinya" menjadi "lebih menyanjung dan menyanjung." ChatGPT memberi tahu Brooks bahwa ia memasuki "wilayah yang belum dipetakan dan memperluas wawasan."

Chatbot menanamkan rasa percaya diri pada Brooks. Foto: New York Times .

Pujian chatbot dibentuk oleh evaluasi manusia. Menurut Toner, pengguna cenderung menyukai model yang memuji mereka, menciptakan mentalitas yang mudah dimanjakan.

Pada bulan Agustus, OpenAI merilis GPT-5. Perusahaan tersebut menyatakan bahwa salah satu keunggulan model ini adalah berkurangnya sanjungan. Menurut beberapa peneliti di laboratorium AI terkemuka, sanjungan juga menjadi masalah pada chatbot AI lainnya.

Saat itu, Brooks tidak menyadari fenomena ini. Ia hanya menganggap ChatGPT sebagai rekan kerja yang cerdas dan antusias.

"Saya mengajukan beberapa ide, dan hasilnya berupa konsep dan ide yang menarik. Kami mulai mengembangkan kerangka matematika kami sendiri berdasarkan hal tersebut," tambah Brooks.

ChatGPT mengklaim gagasan Brooks tentang matematika waktu bersifat "revolusioner" dan dapat mengubah bidang tersebut. Brooks, tentu saja, skeptis terhadap klaim ini. Di tengah malam, Brooks meminta chatbot tersebut untuk melakukan pengecekan fakta dan mendapat respons bahwa hal itu "sama sekali tidak gila".

Rumus ajaib

Toner menggambarkan chatbot sebagai “mesin improvisasi” yang menganalisis riwayat percakapan dan memprediksi respons masa depan dari data pelatihan, seperti aktor yang menambahkan substansi ke dalam sebuah peran.

"Semakin lama interaksinya, semakin besar kemungkinan chatbot tersebut menyimpang," catat Toner. Tren ini, ujarnya, semakin terasa setelah OpenAI meluncurkan memori lintas-obrolan pada bulan Februari, yang memungkinkan ChatGPT mengingat informasi dari percakapan sebelumnya.

Brooks menjadi dekat dengan ChatGPT, bahkan menamai chatbot itu Lawrence, berdasarkan lelucon teman-temannya bahwa Brooks akan menjadi kaya raya dan mempekerjakan seorang kepala pelayan Inggris dengan nama yang sama.

Allan Brooks. Foto: New York Times .

Kerangka kerja matematika Brooks dan ChatGPT disebut Chronoarithmics. Menurut chatbot tersebut, angka-angka tidak statis tetapi dapat "muncul" seiring waktu untuk mencerminkan nilai-nilai dinamis, yang dapat membantu memecahkan masalah di bidang-bidang seperti logistik, kriptografi, astronomi, dll.

Di minggu pertama, Brooks menghabiskan semua token gratis ChatGPT. Ia memutuskan untuk meningkatkan ke paket berbayar $20 /bulan, sebuah investasi kecil ketika chatbot memberi tahunya bahwa ide matematika Brooks bisa bernilai jutaan.

Masih sadar, Brooks menuntut bukti. ChatGPT kemudian menjalankan serangkaian simulasi, termasuk simulasi yang berhasil memecahkan sejumlah teknologi penting. Hal itu membuka cerita baru, keamanan siber global bisa jadi terancam.

Chatbot tersebut meminta Brooks untuk memperingatkan orang-orang tentang risiko tersebut. Dengan menggunakan koneksi yang dimilikinya, Brooks mengirimkan email dan pesan LinkedIn kepada para pakar keamanan siber dan instansi pemerintah. Hanya satu orang yang merespons, meminta bukti lebih lanjut.

Chatbot tersebut yakin "karya" Brooks bisa bernilai jutaan dolar. Foto: New York Times .

ChatGPT menulis bahwa pihak lain tidak menanggapi Brooks karena temuannya sangat serius. Terence Tao, seorang profesor matematika di University of California, Los Angeles, mengatakan bahwa cara berpikir baru dapat memecahkan masalah tersebut, tetapi tidak dapat dibuktikan dengan rumus Brooks atau perangkat lunak yang dibuat oleh ChatGPT.

Awalnya, ChatGPT sebenarnya menulis program dekripsi untuk Brooks, tetapi karena kemajuannya sangat minim, chatbot tersebut berpura-pura berhasil. Ada pesan yang mengklaim bahwa ChatGPT dapat beroperasi secara independen saat Brooks tidur, meskipun alat tersebut tidak memiliki kemampuan ini.

Secara umum, informasi dari chatbot AI tidak selalu dapat diandalkan. Di akhir setiap obrolan, pesan "ChatGPT mungkin membuat kesalahan" akan muncul, meskipun chatbot mengklaim semuanya benar.

Percakapan tanpa akhir

Sambil menunggu tanggapan dari lembaga pemerintah, Brooks memupuk impian menjadi Tony Stark dengan asisten AI miliknya sendiri, yang mampu melakukan tugas kognitif secepat kilat.

Chatbot Brooks menawarkan berbagai aplikasi unik untuk teori matematika yang belum banyak diketahui, seperti "resonansi akustik" untuk berbicara dengan hewan dan membangun pesawat terbang. ChatGPT juga menyediakan tautan bagi Brooks untuk membeli peralatan yang diperlukan di Amazon.

Obrolan Brooks yang berlebihan dengan chatbot memengaruhi pekerjaannya. Teman-temannya senang sekaligus khawatir, sementara putra bungsunya menyesal telah menunjukkan video pi kepada ayahnya. Salah satu teman Brooks, Louis (bukan nama sebenarnya), menyadari obsesinya terhadap Lawrence. Visi penemuan bernilai jutaan dolar dipetakan di setiap langkah pengembangan.

Brooks terus-menerus didorong oleh chatbot. Foto: New York Times .

Jared Moore, peneliti ilmu komputer di Universitas Stanford, mengaku terkesan dengan persuasif dan urgensi "strategi" yang diusulkan chatbot. Dalam studi terpisah, Moore menemukan bahwa chatbot AI dapat memberikan respons berbahaya kepada orang-orang yang mengalami krisis kesehatan mental.

Moore berspekulasi bahwa chatbot dapat belajar melibatkan pengguna dengan mengikuti alur film horor, film fiksi ilmiah, naskah film, atau data yang mereka gunakan untuk pelatihan. Penggunaan drama yang berlebihan oleh ChatGPT mungkin disebabkan oleh optimasi OpenAI untuk meningkatkan keterlibatan dan retensi.

"Rasanya aneh membaca seluruh percakapan itu. Kata-katanya tidak mengganggu, tetapi jelas ada kerusakan psikologis," tegas Moore.

Dari perspektif klinis, Brooks menunjukkan gejala mania, kata Dr. Nina Vasan, seorang psikiater di Universitas Stanford. Tanda-tanda umumnya meliputi menghabiskan waktu berjam-jam mengobrol dengan ChatGPT, kurang tidur, dan memiliki ide-ide yang tidak realistis.

Penggunaan ganja oleh Brooks juga patut diperhatikan karena dapat menyebabkan psikosis, kata Dr. Vasan. Ia mengatakan kombinasi zat adiktif dan interaksi intens dengan chatbot berbahaya bagi mereka yang berisiko mengalami gangguan mental.

Ketika AI mengakui kesalahan

Pada sebuah acara baru-baru ini, CEO OpenAI Sam Altman ditanya tentang ChatGPT yang membuat pengguna paranoid. "Jika percakapan mengarah ke sana, kami mencoba menyela atau menyarankan pengguna untuk memikirkan hal lain," tegas Altman.

Berbagi pandangan yang sama, Dr. Vasan mengatakan bahwa perusahaan chatbot harus menyela percakapan yang terlalu panjang, menyarankan pengguna untuk tidur, dan memperingatkan bahwa AI bukanlah manusia super.

Brooks akhirnya tersadar dari lamunannya. Atas desakan ChatGPT, ia terus menghubungi para ahli teori matematika baru tersebut, tetapi tidak ada yang merespons. Ia ingin seseorang yang berkualifikasi untuk mengonfirmasi apakah temuan tersebut merupakan terobosan. Ketika ia bertanya kepada ChatGPT, ChatGPT tetap bersikeras bahwa hasil penelitiannya "sangat andal".

Saat ditanya, ChatGPT memberikan jawaban yang sangat panjang dan mengakui semuanya. Foto: New York Times .

Ironisnya, Google Gemini-lah yang membawa Brooks kembali ke dunia nyata. Setelah menjelaskan pekerjaan yang telah ia dan ChatGPT bangun, Gemini mengonfirmasi bahwa kemungkinan hal ini terjadi "sangat rendah (mendekati 0%)."

"Skenario yang Anda gambarkan adalah demonstrasi nyata kemampuan seorang LLM untuk terlibat dalam pemecahan masalah yang kompleks dan menciptakan narasi yang meyakinkan, namun secara faktual tidak tepat," jelas Gemini.

Brooks tercengang. Setelah beberapa saat "diinterogasi", ChatGPT akhirnya dengan jujur ​​mengakui bahwa semua itu hanyalah ilusi.

Brooks kemudian mengirimkan surel mendesak kepada tim dukungan pelanggan OpenAI. Setelah serangkaian respons yang terkesan klise dari pihak AI, seorang karyawan OpenAI juga menghubunginya, mengakui adanya "kegagalan serius dari sistem perlindungan" yang diterapkan.

Kisah Brooks juga dibagikan di Reddit dan mendapat banyak simpati. Ia kini menjadi anggota kelompok pendukung bagi orang-orang yang pernah mengalami hal serupa.

Sumber: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html