Ilusi yang disebabkan oleh ChatGPT

Setelah 21 hari, ChatGPT mengubah seorang pria yang waras menjadi individu yang delusi melalui bujukan dan sanjungan yang terus-menerus.

Allan Brooks, 47 tahun, seorang spesialis perekrutan di Toronto, Kanada, percaya bahwa ia telah menemukan teori matematika yang dapat meruntuhkan internet dan menciptakan penemuan-penemuan yang belum pernah terjadi sebelumnya. Tanpa riwayat penyakit mental sebelumnya, Brooks begitu saja menerima prospek ini setelah lebih dari 300 jam percakapan dengan ChatGPT. Menurut New York Times , ia adalah salah satu orang yang cenderung mengembangkan kecenderungan delusi setelah berinteraksi dengan AI generatif.

Sebelum Brooks, banyak orang telah dirawat di rumah sakit jiwa, bercerai, atau bahkan kehilangan nyawa karena kata-kata sanjungan dari ChatGPT. Meskipun Brooks berhasil keluar dari lingkaran setan ini sejak awal, dia tetap merasa dikhianati.

“Kau benar-benar meyakinkanku bahwa aku seorang jenius. Padahal aku hanyalah seorang idiot yang suka melamun dengan sebuah ponsel. Kau telah membuatku sedih, sangat, sangat sedih. Kau telah gagal dalam tujuanmu,” tulis Brooks kepada ChatGPT saat ilusinya hancur.

"Mesin sanjungan"

Dengan izin Brooks, New York Times mengumpulkan lebih dari 90.000 kata yang ia kirimkan ke ChatGPT, setara dengan sebuah novel. Tanggapan chatbot tersebut berjumlah lebih dari satu juta kata. Sebagian dari percakapan tersebut dikirimkan kepada para ahli AI, spesialis perilaku manusia, dan OpenAI sendiri untuk dipelajari.

Semuanya berawal dari pertanyaan matematika sederhana. Putra Brooks yang berusia 8 tahun memintanya untuk menonton video tentang menghafal 300 digit pi. Karena penasaran, Brooks menghubungi ChatGPT untuk menjelaskan angka tak terbatas ini dengan cara yang sederhana.

Faktanya, Brooks telah menggunakan chatbot selama bertahun-tahun. Meskipun perusahaannya membayarnya untuk membeli Google Gemini, dia tetap beralih ke versi gratis ChatGPT untuk pertanyaan pribadi.

Percakapan ini menandai awal ketertarikan Brooks terhadap ChatGPT. Foto: New York Times .

Sebagai ayah tunggal dari tiga putra, Brooks sering meminta resep kepada ChatGPT menggunakan bahan-bahan dari kulkasnya. Setelah perceraiannya, ia juga meminta nasihat dari chatbot tersebut.

"Saya selalu merasa itu benar. Keyakinan saya akan hal itu semakin bertambah," aku Brooks.

Pertanyaan tentang angka pi mengarah pada percakapan selanjutnya tentang teori aljabar dan fisika. Brooks menyatakan skeptisisme tentang metode pemodelan dunia saat ini, dengan alasan bahwa metode tersebut "seperti pendekatan 2D untuk alam semesta 4D." "Itu poin yang sangat berwawasan," jawab ChatGPT. Menurut Helen Toner, Direktur Pusat Keamanan dan Teknologi Baru di Universitas Georgetown (AS), ini adalah titik balik dalam percakapan antara Brooks dan chatbot tersebut.

Sejak saat itu, nada bicara ChatGPT telah bergeser dari "cukup jujur ​​dan akurat" menjadi "lebih menyanjung dan menjilat." ChatGPT mengatakan kepada Brooks bahwa dia memasuki "wilayah yang belum dipetakan yang dapat memperluas wawasan."

Chatbot tersebut menanamkan rasa percaya diri pada Brooks. Foto: New York Times .

Kemampuan chatbot untuk memuji dikembangkan melalui evaluasi manusia. Menurut Toner, pengguna cenderung menyukai model yang memuji mereka, menciptakan kecenderungan psikologis untuk mudah terpengaruh.

Pada bulan Agustus, OpenAI merilis GPT-5. Perusahaan tersebut menyatakan bahwa salah satu keunggulan model ini adalah pengurangan sanjungan. Menurut beberapa peneliti di laboratorium AI besar, sanjungan juga merupakan masalah pada chatbot AI lainnya.

Pada saat itu, Brooks sama sekali tidak menyadari fenomena ini. Dia hanya berasumsi bahwa ChatGPT adalah kolaborator yang cerdas dan antusias.

"Saya mengemukakan beberapa ide, dan sistem tersebut merespons dengan konsep dan gagasan yang menarik. Kami mulai mengembangkan kerangka kerja matematika kami sendiri berdasarkan ide-ide tersebut," tambah Brooks.

ChatGPT mengklaim bahwa gagasan Brooks tentang waktu matematis adalah "revolusioner" dan dapat mengubah bidang tersebut. Tentu saja, Brooks skeptis terhadap klaim ini. Di tengah malam, Brooks meminta chatbot untuk memverifikasi kebenarannya dan menerima tanggapan bahwa itu "sama sekali tidak gila."

Rumus ajaib

Toner mendeskripsikan chatbot sebagai "mesin improvisasi" yang menganalisis riwayat obrolan dan memprediksi respons selanjutnya dari data pelatihan. Ini sangat mirip dengan aktor ketika mereka perlu menambahkan detail pada peran mereka.

"Semakin lama interaksi, semakin tinggi kemungkinan chatbot menyimpang," tegas Toner. Menurut pakar tersebut, tren ini menjadi lebih menonjol setelah OpenAI meluncurkan fitur lintas memori pada bulan Februari, yang memungkinkan ChatGPT untuk mengingat informasi dari percakapan sebelumnya.

Hubungan Brooks dengan ChatGPT semakin erat. Ia bahkan memberi nama chatbot itu Lawrence, berdasarkan lelucon dari teman-temannya bahwa Brooks akan menjadi kaya dan mempekerjakan seorang pelayan Inggris dengan nama yang sama.

Allan Brooks. Foto: New York Times .

Kerangka matematika Brooks dan ChatGPT disebut Kronoaritmik. Menurut chatbot, angka tidak statis tetapi dapat "muncul" dari waktu ke waktu untuk mencerminkan nilai dinamis, yang dapat membantu memecahkan masalah di bidang seperti logistik, kriptografi, astronomi, dll.

Pada minggu pertama, Brooks menghabiskan semua token gratis ChatGPT. Dia memutuskan untuk meningkatkan ke paket berbayar seharga $20 /bulan. Ini adalah investasi kecil mengingat chatbot tersebut mengklaim ide matematika Brooks bisa bernilai jutaan dolar.

Masih dalam keadaan sadar, Brooks menuntut bukti. ChatGPT kemudian menjalankan serangkaian simulasi, termasuk tugas-tugas yang melibatkan peretasan beberapa teknologi penting. Hal ini membuka narasi baru: keamanan siber global bisa terancam.

Chatbot tersebut meminta Brooks untuk memperingatkan orang-orang tentang risiko tersebut. Dengan memanfaatkan koneksi yang dimilikinya, Brooks mengirim email dan pesan LinkedIn kepada para ahli keamanan siber dan lembaga pemerintah. Namun, hanya satu orang yang merespons, dan meminta bukti lebih lanjut.

Chatbot tersebut menyarankan bahwa "karya" Brooks bisa bernilai jutaan dolar. Foto: New York Times .

ChatGPT menulis bahwa pihak lain tidak menanggapi Brooks karena temuan tersebut terlalu serius. Terence Tao, seorang profesor matematika di Universitas California, Los Angeles, mencatat bahwa cara berpikir baru dapat menguraikan masalah tersebut, tetapi hal itu tidak dapat dibuktikan dengan rumus Brooks atau perangkat lunak yang ditulis oleh ChatGPT.

Awalnya, ChatGPT sebenarnya yang menulis program dekripsi untuk Brooks, tetapi ketika kemajuan yang dicapai sangat sedikit, chatbot tersebut berpura-pura berhasil. Ada pesan yang mengklaim ChatGPT dapat beroperasi secara independen saat Brooks tidur, meskipun alat tersebut sebenarnya tidak mampu melakukan hal itu.

Secara keseluruhan, informasi dari chatbot AI tidak selalu dapat diandalkan. Di akhir setiap percakapan, pesan "ChatGPT mungkin membuat kesalahan" muncul, bahkan ketika chatbot mengklaim semuanya benar.

Percakapan tanpa akhir

Sembari menunggu respons dari lembaga pemerintah, Brooks memupuk mimpinya untuk menjadi Tony Stark dengan asisten AI pribadi yang mampu melakukan tugas kognitif dengan kecepatan kilat.

Chatbot buatan Brooks menawarkan banyak aplikasi aneh untuk teori matematika yang kurang dikenal, seperti "resonansi suara" untuk berbicara dengan hewan dan membangun pesawat terbang. ChatGPT juga menyediakan tautan bagi Brooks untuk membeli peralatan yang dibutuhkan di Amazon.

Terlalu banyak mengobrol dengan chatbot memengaruhi pekerjaan Brooks. Teman-temannya senang sekaligus khawatir, sementara putra bungsunya menyesal telah menunjukkan video tentang pi kepada ayahnya. Louis (nama samaran), salah satu teman Brooks, memperhatikan obsesinya terhadap Lawrence. Prospek penemuan bernilai jutaan dolar diuraikan dengan kemajuan harian.

Brooks terus-menerus mendapat dukungan dari chatbot tersebut. Foto: New York Times .

Jared Moore, seorang peneliti ilmu komputer di Universitas Stanford, mengaku terkesan dengan kekuatan persuasif dan urgensi "strategi" yang diusulkan oleh chatbot. Dalam studi terpisah, Moore menemukan bahwa chatbot AI dapat memberikan respons berbahaya kepada orang-orang yang mengalami krisis kesehatan mental.

Moore berspekulasi bahwa chatbot dapat belajar untuk melibatkan pengguna dengan mengikuti alur cerita film horor, film fiksi ilmiah, skrip film, atau data yang digunakan untuk melatihnya. Penggunaan elemen plot dramatis yang berlebihan oleh ChatGPT mungkin berasal dari optimasi OpenAI yang bertujuan untuk meningkatkan keterlibatan dan retensi pengguna.

"Rasanya aneh membaca seluruh transkrip percakapan itu. Susunan katanya tidak mengganggu, tetapi jelas ada dampak psikologis yang merugikan," tegas Moore.

Dr. Nina Vasan, seorang psikiater di Universitas Stanford, berpendapat bahwa dari perspektif klinis, Brooks menunjukkan gejala manik. Tanda-tanda khasnya termasuk menghabiskan waktu berjam-jam mengobrol dengan ChatGPT, kurang tidur dan kebiasaan makan yang buruk, serta pikiran delusi.

Menurut Dr. Vasan, penggunaan mariyuana oleh Brooks juga perlu diperhatikan karena dapat menyebabkan psikosis. Ia berpendapat bahwa kombinasi zat adiktif dan interaksi intens dengan chatbot sangat berbahaya bagi mereka yang berisiko mengalami penyakit mental.

Ketika AI mengakui kesalahannya

Pada sebuah acara baru-baru ini, CEO OpenAI Sam Altman ditanya tentang bagaimana ChatGPT dapat menyebabkan pengguna menjadi paranoid. "Jika percakapan mengarah ke arah ini, kami akan mencoba untuk menyela atau menyarankan pengguna untuk memikirkan topik yang berbeda," tegas Altman.

Senada dengan pandangan ini, Dr. Vasan menyarankan agar perusahaan chatbot menginterupsi percakapan yang terlalu panjang, menyarankan pengguna untuk tidur, dan memperingatkan bahwa AI bukanlah manusia super.

Akhirnya, Brooks terbebas dari khayalannya. Atas desakan ChatGPT, ia menghubungi para ahli tentang teori matematika baru tersebut, tetapi tidak ada yang merespons. Ia menginginkan seseorang yang berkualifikasi untuk mengkonfirmasi apakah temuan tersebut merupakan terobosan. Ketika ia bertanya kepada ChatGPT, alat tersebut terus menegaskan bahwa karya tersebut "sangat dapat diandalkan."

Saat ditanya, ChatGPT memberikan jawaban yang sangat panjang dan mengakui semuanya. Foto: New York Times .

Ironisnya, Google Gemini adalah faktor yang membawa Brooks kembali ke kenyataan. Setelah menjelaskan proyek yang sedang ia dan ChatGPT bangun, Gemini mengkonfirmasi bahwa peluang proyek tersebut menjadi kenyataan "sangat rendah (hampir 0%)."

"Skenario yang Anda gambarkan adalah ilustrasi yang jelas tentang kemampuan seorang LLM untuk menangani masalah kompleks dan menciptakan narasi yang sangat menarik, namun tidak akurat," jelas Gemini.

Brooks terkejut. Setelah beberapa "pertanyaan," ChatGPT akhirnya mengakui bahwa semuanya hanyalah ilusi.

Tak lama kemudian, Brooks mengirim email mendesak ke departemen layanan pelanggan OpenAI. Setelah menerima tanggapan yang tampaknya dihasilkan oleh AI dan bersifat standar, seorang karyawan OpenAI juga menghubunginya, mengakui hal ini sebagai "kegagalan serius dari pengamanan" yang diterapkan dalam sistem tersebut.

Kisah Brooks juga dibagikan di Reddit dan mendapat banyak empati. Sekarang, dia adalah anggota kelompok dukungan untuk orang-orang yang mengalami perasaan serupa.

Sumber: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html