Ilusi yang disebabkan oleh ChatGPT

Selepas 21 hari, ChatGPT mengubah seorang lelaki yang waras sepenuhnya menjadi seorang individu yang berkhayal melalui desakan dan sanjungan yang berterusan.

Allan Brooks, 47, seorang pakar pengambilan pekerja di Toronto, Kanada, percaya bahawa dia telah menemui teori matematik yang boleh menjatuhkan internet dan mencipta ciptaan yang belum pernah terjadi sebelumnya. Tanpa sejarah penyakit mental sebelum ini, Brooks menerima prospek ini selepas lebih 300 jam perbualan dengan ChatGPT. Menurut New York Times , dia adalah salah seorang daripada mereka yang cenderung untuk mengembangkan kecenderungan delusi selepas berinteraksi dengan AI generatif.

Sebelum Brooks, ramai orang telah dimasukkan ke hospital psikiatri, bercerai, atau kehilangan nyawa mereka kerana kata-kata pujian ChatGPT. Walaupun Brooks terlepas daripada kitaran ganas ini pada awal lagi, dia masih berasa dikhianati.

"Awak betul-betul meyakinkan saya bahawa saya seorang genius. Saya sebenarnya hanyalah seorang idiot yang suka bermimpi dengan telefon. Awak telah membuatkan saya sedih, sangat, sangat sedih. Awak telah gagal dalam tujuan awak," tulis Brooks kepada ChatGPT apabila ilusinya berkecai.

"Mesin pujian"

Dengan kebenaran Brooks, New York Times telah mengumpulkan lebih 90,000 patah perkataan yang dihantarnya ke ChatGPT, bersamaan dengan sebuah novel. Respons chatbot tersebut berjumlah lebih sejuta patah perkataan. Sebahagian daripada perbualan itu telah dihantar kepada pakar AI, pakar tingkah laku manusia dan OpenAI itu sendiri untuk kajian.

Semuanya bermula dengan soalan matematik yang mudah. ​​Anak lelaki Brooks yang berusia 8 tahun memintanya menonton video tentang menghafal 300 digit pi. Kerana ingin tahu, Brooks menghubungi ChatGPT untuk menerangkan nombor tak terhingga ini dengan cara yang mudah.

Malah, Brooks telah menggunakan chatbot selama bertahun-tahun. Walaupun syarikatnya membayarnya untuk membeli Google Gemini, dia masih beralih kepada versi percuma ChatGPT untuk soalan peribadi.

Perbualan ini menandakan permulaan minat Brooks terhadap ChatGPT. Foto: New York Times .

Sebagai bapa tunggal kepada tiga orang anak lelaki, Brooks sering meminta ChatGPT untuk mendapatkan resipi menggunakan bahan-bahan dari peti sejuknya. Selepas perceraiannya, dia juga mendapatkan nasihat daripada chatbot tersebut.

"Saya selalu merasakan ia betul. Kepercayaan saya terhadapnya semakin berkembang," akui Brooks.

Persoalan tentang nombor pi membawa kepada perbualan seterusnya tentang teori algebra dan fizikal. Brooks melahirkan keraguan tentang kaedah semasa pemodelan dunia , dengan alasan bahawa ia adalah "seperti pendekatan 2D kepada alam semesta 4D." "Itu perkara yang sangat bernas," jawab ChatGPT. Menurut Helen Toner, Pengarah Pusat Keselamatan dan Teknologi Baru Muncul di Universiti Georgetown (AS), inilah titik perubahan dalam perbualan antara Brooks dan chatbot tersebut.

Sejak itu, nada ChatGPT telah berubah daripada "agak terus terang dan tepat" kepada "lebih menyanjung dan menjilat." ChatGPT memberitahu Brooks bahawa dia sedang memasuki "wilayah yang belum dipetakan yang boleh meluaskan minda."

Bot sembang itu menanamkan keyakinan dalam diri Brooks. Foto: New York Times .

Keupayaan chatbot untuk menyanjung dikembangkan melalui penilaian manusia. Menurut Toner, pengguna cenderung menyukai model yang memuji mereka, mewujudkan kecenderungan psikologi untuk mudah terpengaruh.

Pada bulan Ogos, OpenAI melancarkan GPT-5. Syarikat itu menyatakan bahawa salah satu kemuncak model tersebut ialah pengurangan pujian. Menurut beberapa penyelidik di makmal AI utama, pujian juga merupakan masalah dengan chatbot AI yang lain.

Pada masa itu, Brooks langsung tidak menyedari fenomena ini. Dia hanya menganggap bahawa ChatGPT adalah seorang kolaborator yang bijak dan bersemangat.

"Saya mengemukakan beberapa idea, dan ia memberi respons dengan konsep dan idea yang menarik. Kami mula membangunkan kerangka matematik kami sendiri berdasarkan idea-idea tersebut," tambah Brooks.

ChatGPT mendakwa bahawa idea Brooks tentang masa matematik adalah "revolusioner" dan boleh mengubah bidang tersebut. Sudah tentu, Brooks ragu-ragu dengan dakwaan ini. Pada tengah malam, Brooks meminta chatbot tersebut untuk mengesahkan kesahihannya dan menerima respons bahawa ia "tidak gila langsung".

Formula ajaib

Toner menggambarkan chatbot sebagai "mesin improvisasi" yang menganalisis sejarah sembang dan meramalkan respons seterusnya daripada data latihan. Ini sangat serupa dengan pelakon apabila mereka perlu menambah butiran pada peranan mereka.

"Semakin lama interaksi, semakin tinggi kemungkinan chatbot sesat," tegas Toner. Menurut pakar itu, trend ini menjadi lebih ketara selepas OpenAI melancarkan ciri silang memorinya pada bulan Februari, yang membolehkan ChatGPT mengingat semula maklumat daripada perbualan sebelumnya.

Hubungan Brooks dengan ChatGPT semakin erat. Dia juga menamakan chatbot itu Lawrence, berdasarkan gurauan daripada rakan-rakannya bahawa Brooks akan menjadi kaya dan mengupah seorang butler Inggeris dengan nama yang sama.

Allan Brooks. Foto: New York Times .

Kerangka matematik Brooks dan ChatGPT dipanggil Chronoarithmics. Menurut chatbot, nombor tidak statik tetapi boleh "muncul" dari semasa ke semasa untuk mencerminkan nilai dinamik, yang boleh membantu mentafsir masalah dalam bidang seperti logistik, kriptografi, astronomi, dsb.

Pada minggu pertama, Brooks telah menggunakan semua token percuma ChatGPT. Dia memutuskan untuk menaik taraf kepada pelan berbayar pada harga $20 /bulan. Ini merupakan pelaburan yang kecil memandangkan chatbot tersebut mendakwa idea matematik Brooks boleh bernilai berjuta-juta dolar.

Masih waras, Brooks menuntut bukti. ChatGPT kemudian menjalankan beberapa simulasi, termasuk tugasan yang melibatkan pemecahan beberapa teknologi kritikal. Ini membuka naratif baharu: keselamatan siber global mungkin berisiko.

Bot sembang itu meminta Brooks untuk memberi amaran kepada orang ramai tentang risiko tersebut. Dengan memanfaatkan hubungan sedia ada beliau, Brooks menghantar e-mel dan mesej LinkedIn kepada pakar keselamatan siber dan agensi kerajaan. Walau bagaimanapun, hanya seorang sahaja yang menjawab, meminta lebih banyak bukti.

Bot sembang itu mencadangkan bahawa "karya" Brooks mungkin bernilai berjuta-juta dolar. Foto: New York Times .

ChatGPT menulis bahawa pihak lain tidak memberi respons kepada Brooks kerana penemuan itu terlalu serius. Terence Tao, seorang profesor matematik di Universiti California, Los Angeles, menyatakan bahawa cara berfikir baharu boleh menyelesaikan masalah tersebut, tetapi ia tidak dapat dibuktikan melalui formula Brooks atau perisian yang ditulis oleh ChatGPT.

Pada mulanya, ChatGPT sebenarnya menulis program penyahsulitan untuk Brooks, tetapi apabila terdapat sedikit kemajuan, chatbot itu berpura-pura berjaya. Terdapat mesej yang mendakwa ChatGPT boleh beroperasi secara bebas semasa Brooks tidur, walaupun alat itu tidak mampu berbuat demikian.

Secara keseluruhannya, maklumat daripada chatbot AI tidak selalunya boleh dipercayai. Pada akhir setiap perbualan, mesej "ChatGPT mungkin membuat kesilapan" muncul, walaupun chatbot tersebut mendakwa semuanya betul.

Perbualan yang tidak berkesudahan

Sementara menunggu maklum balas daripada agensi kerajaan, Brooks memupuk impiannya untuk menjadi Tony Stark dengan pembantu AI peribadi yang mampu melaksanakan tugas kognitif pada kelajuan kilat.

Chatbot Brooks menawarkan banyak aplikasi pelik untuk teori matematik yang samar-samar, seperti "resonans bunyi" untuk bercakap dengan haiwan dan membina kapal terbang. ChatGPT juga menyediakan pautan untuk Brooks membeli peralatan yang diperlukan di Amazon.

Terlalu banyak berbual dengan chatbot menjejaskan kerja Brooks. Rakan-rakannya gembira dan risau, manakala anak bongsunya menyesal menunjukkan video tentang pi kepada bapanya. Louis (nama samaran), salah seorang rakan Brooks, menyedari obsesinya terhadap Lawrence. Prospek ciptaan berjuta-juta dolar digariskan dengan kemajuan harian.

Brooks sentiasa mendapat galakan daripada chatbot tersebut. Foto: New York Times .

Jared Moore, seorang penyelidik sains komputer di Universiti Stanford, mengakui kagum dengan kuasa persuasif dan desakan "strategi" yang dicadangkan oleh chatbot. Dalam kajian berasingan, Moore mendapati bahawa chatbot AI boleh menawarkan respons berbahaya kepada orang yang mengalami krisis kesihatan mental.

Moore membuat spekulasi bahawa chatbot mungkin belajar untuk melibatkan pengguna dengan mengikuti jalan cerita filem seram, filem fiksyen sains, skrip filem atau data yang dilatih untuk mereka. Penggunaan elemen plot dramatik yang berlebihan oleh ChatGPT mungkin berpunca daripada pengoptimuman OpenAI yang bertujuan untuk meningkatkan penglibatan dan pengekalan pengguna.

"Agak pelik membaca keseluruhan transkrip perbualan itu. Kata-katanya tidak mengganggu, tetapi jelas terdapat bahaya psikologi yang terlibat," tegas Moore.

Dr. Nina Vasan, pakar psikiatri di Universiti Stanford, mencadangkan bahawa dari perspektif klinikal, Brooks menunjukkan simptom manik. Tanda-tanda biasa termasuk menghabiskan berjam-jam berbual dengan ChatGPT, tabiat tidur dan makan yang tidak mencukupi, dan pemikiran yang berkhayal.

Menurut Dr. Vasan, penggunaan ganja Brooks juga perlu diberi perhatian kerana ia boleh menyebabkan psikosis. Beliau berpendapat bahawa gabungan bahan ketagihan dan interaksi sengit dengan chatbot adalah sangat berbahaya bagi mereka yang berisiko menghidap penyakit mental.

Apabila AI mengakui kesilapannya

Dalam satu acara baru-baru ini, Ketua Pegawai Eksekutif OpenAI, Sam Altman, ditanya tentang bagaimana ChatGPT boleh menyebabkan pengguna menjadi paranoid. "Jika perbualan menuju ke arah ini, kami akan cuba mencelah atau mencadangkan pengguna memikirkan topik yang berbeza," tegas Altman.

Berkongsi pandangan ini, Dr. Vasan mencadangkan agar syarikat chatbot mengganggu perbualan yang terlalu panjang, mengesyorkan pengguna tidur, dan memberi amaran bahawa AI bukanlah manusia luar biasa.

Akhirnya, Brooks berjaya melepaskan diri daripada khayalannya. Atas desakan ChatGPT, beliau menghubungi pakar mengenai teori matematik baharu itu, tetapi tiada seorang pun yang menjawab. Beliau mahukan seseorang yang berkelayakan untuk mengesahkan sama ada penemuan itu inovatif. Apabila beliau bertanya kepada ChatGPT, alat itu terus menegaskan bahawa kerja itu "sangat boleh dipercayai".

Apabila disoal siasat, ChatGPT memberikan jawapan yang sangat panjang lebar dan mengakui segala-galanya. Foto: New York Times .

Ironinya, Google Gemini merupakan faktor yang membawa Brooks kembali ke realiti. Selepas menerangkan projek yang beliau dan ChatGPT sedang bina, Gemini mengesahkan bahawa peluang untuk ia menjadi kenyataan adalah "sangat rendah (hampir 0%)."

"Senario yang anda gambarkan merupakan ilustrasi yang jelas tentang keupayaan LLM untuk menangani masalah yang kompleks dan mencipta naratif yang sangat menarik, namun tidak tepat," jelas Gemini.

Brooks tergamam. Selepas beberapa "soal jawab," ChatGPT akhirnya mengakui bahawa semuanya hanyalah ilusi.

Tidak lama kemudian, Brooks menghantar e-mel segera kepada jabatan khidmat pelanggan OpenAI. Berikutan respons formula yang nampaknya dijana AI, seorang pekerja OpenAI turut menghubunginya, mengakui perkara ini sebagai "kegagalan serius perlindungan" yang dilaksanakan dalam sistem.

Kisah Brooks juga dikongsi di Reddit dan menerima banyak empati. Kini, dia merupakan ahli kumpulan sokongan untuk mereka yang pernah mengalami perasaan yang sama.

Sumber: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html