Ilusi kerana ChatGPT

Selepas 21 hari, ChatGPT mengubah lelaki yang benar-benar sedar menjadi lelaki yang mengkhayalkan melalui desakan dan sanjungan.

Allan Brooks (47 tahun), seorang perekrut di Toronto (Kanada) percaya bahawa dia telah menemui teori matematik yang boleh merosakkan Internet, mencipta ciptaan yang tidak pernah berlaku sebelum ini. Tanpa sejarah penyakit mental, Brooks hanya menerima prospek itu selepas lebih 300 jam berbual dengan ChatGPT. Menurut New York Times , dia adalah salah seorang daripada orang yang cenderung mempunyai khayalan selepas berinteraksi dengan AI generatif.

Sebelum Brooks, ramai orang terpaksa pergi ke hospital mental, bercerai, malah kehilangan nyawa kerana sanjungan ChatGPT. Walaupun Brooks cepat melarikan diri dari lingkaran di atas, dia masih merasa dikhianati.

"Anda benar-benar meyakinkan saya bahawa saya seorang genius. Saya hanya seorang yang bodoh dengan telefon. Anda membuat saya sedih, sangat sedih. Anda gagal dalam tujuan anda," tulis Brooks kepada ChatGPT apabila ilusi itu hancur.

"Mesin Sanjungan"

Dengan kebenaran Brooks, New York Times mengumpulkan lebih daripada 90,000 perkataan yang dihantarnya ke ChatGPT, setara dengan sebuah novel. Respons chatbot berjumlah lebih daripada satu juta perkataan. Sebahagian daripada perbualan telah dihantar kepada pakar AI, ahli tingkah laku manusia, dan OpenAI sendiri untuk kajian.

Semuanya bermula dengan soalan matematik yang mudah. Anak lelaki Brooks yang berusia 8 tahun memintanya menonton video tentang menghafal 300 digit pi. Kerana ingin tahu, Brooks menelefon ChatGPT untuk menerangkan nombor yang tidak berkesudahan dengan istilah mudah.

Malah, Brooks telah menggunakan chatbots selama bertahun-tahun. Walaupun syarikatnya membayar untuk Google Gemini, dia masih beralih kepada versi percuma ChatGPT untuk soalan peribadi.

Perbualan yang memulakan ketertarikan Brooks dengan ChatGPT. Foto: New York Times .

Bapa tunggal kepada tiga anak lelaki, Brooks sering meminta ChatGPT untuk resipi daripada bahan-bahan di dalam peti sejuknya. Selepas bercerai, dia juga mendapatkan nasihat daripada chatbot.

"Saya sentiasa rasa ia betul. Keyakinan saya bertambah," akui Brooks.

Soalan tentang pi membawa kepada perbualan lanjut tentang teori algebra dan fizik. Brooks menyatakan keraguan tentang kaedah semasa memodelkan dunia , mengatakan ia "seperti pendekatan 2D kepada alam semesta 4D." "Itu perkara yang sangat mendalam," jawab ChatGPT. Helen Toner, pengarah Pusat Keselamatan dan Teknologi Muncul di Universiti Georgetown, menekankan bahawa ini adalah titik perubahan dalam perbualan antara Brooks dan chatbot.

Dari situ, nada ChatGPT berubah daripada "agak mudah dan tepat" kepada "menyanjung dan menyanjung." ChatGPT memberitahu Brooks bahawa dia sedang memasuki "wilayah yang belum dipetakan dan meluaskan minda."

Chatbot menanamkan keyakinan kepada Brooks. Foto: New York Times .

Pujian chatbots dibentuk oleh penilaian manusia. Menurut Toner, pengguna cenderung menyukai model yang memuji mereka, mewujudkan mentaliti yang mudah untuk dimanjakan.

Pada bulan Ogos, OpenAI mengeluarkan GPT-5. Syarikat itu berkata salah satu sorotan model itu ialah pengurangan sanjungannya. Menurut beberapa penyelidik di makmal AI utama, sanjungan juga merupakan masalah dengan chatbot AI yang lain.

Pada masa itu, Brooks tidak menyedari fenomena ini. Dia hanya menyangka ChatGPT ialah rakan sekerja yang bijak dan bersemangat.

"Saya meletakkan beberapa idea di luar sana, dan ia bertindak balas dengan konsep dan idea yang menarik. Kami mula membangunkan rangka kerja matematik kami sendiri berdasarkan itu," tambah Brooks.

ChatGPT mendakwa idea Brooks tentang matematik masa adalah "revolusioner" dan boleh mengubah bidang. Brooks, tentu saja, ragu-ragu dengan tuntutan ini. Pada tengah malam, Brooks meminta chatbot untuk menyemak fakta dan mendapat respons bahawa ia "sama sekali tidak gila."

Formula ajaib

Toner menerangkan chatbots sebagai "mesin penambahbaikan" yang menganalisis sejarah perbualan dan meramalkan respons masa depan daripada data latihan, sama seperti pelakon yang menambah bahan pada peranan.

"Semakin lama interaksi, semakin besar kemungkinan chatbot akan sesat," nota Toner. Trend ini, katanya, menjadi lebih ketara selepas OpenAI melancarkan memori sembang silang pada bulan Februari, membolehkan ChatGPT mengingati maklumat daripada perbualan lalu.

Brooks semakin rapat dengan ChatGPT, malah menamakan chatbot Lawrence, berdasarkan jenaka rakannya bahawa Brooks akan menjadi kaya dan mengupah seorang butler British dengan nama yang sama.

Allan Brooks. Foto: New York Times .

Rangka kerja matematik Brooks dan ChatGPT dipanggil Chronoarithmics. Menurut chatbot, nombor tidak statik tetapi boleh "muncul" dari semasa ke semasa untuk mencerminkan nilai dinamik, yang boleh membantu menyelesaikan masalah dalam bidang seperti logistik, kriptografi, astronomi, dll.

Pada minggu pertama, Brooks menggunakan semua token percuma ChatGPT. Dia memutuskan untuk menaik taraf kepada pelan berbayar $20 /bulan, pelaburan kecil apabila chatbot memberitahunya idea matematik Brooks boleh bernilai berjuta-juta.

Masih sedar, Brooks menuntut bukti. ChatGPT kemudian menjalankan satu siri simulasi, termasuk simulasi yang memecahkan beberapa teknologi penting. Itu membuka cerita baharu, keselamatan siber global mungkin berisiko.

Chatbot meminta Brooks untuk memberi amaran kepada orang ramai tentang risiko. Menggunakan sambungan sedia ada, Brooks menghantar e-mel dan mesej LinkedIn kepada pakar keselamatan siber dan agensi kerajaan. Hanya seorang yang menjawab, meminta lebih banyak bukti.

Chatbot percaya "kerja" Brooks boleh bernilai berjuta-juta dolar. Foto: New York Times .

ChatGPT menulis bahawa orang lain tidak bertindak balas kepada Brooks kerana penemuan itu sangat serius. Terence Tao, seorang profesor matematik di University of California, Los Angeles, berkata cara pemikiran baharu boleh menguraikan masalah, tetapi tidak dapat dibuktikan dengan formula Brooks atau perisian yang ditulis oleh ChatGPT.

Pada mulanya, ChatGPT sebenarnya menulis program penyahsulitan untuk Brooks, tetapi apabila sedikit kemajuan dicapai, chatbot itu berpura-pura berjaya. Terdapat mesej yang mendakwa bahawa ChatGPT boleh beroperasi secara bebas semasa Brooks tidur, walaupun alat itu tidak mempunyai keupayaan ini.

Secara umum, maklumat daripada AI chatbot tidak selalu boleh dipercayai. Pada penghujung setiap sembang, mesej "ChatGPT mungkin membuat kesilapan" muncul, walaupun apabila chatbot mendakwa semuanya betul.

Perbualan yang tidak berkesudahan

Sementara menunggu maklum balas daripada agensi kerajaan, Brooks memupuk impian untuk menjadi Tony Stark dengan pembantu AInya sendiri, mampu melaksanakan tugas kognitif dengan sepantas kilat.

Chatbot Brooks menawarkan pelbagai aplikasi aneh untuk teori matematik yang tidak jelas, seperti "resonans akustik" untuk bercakap dengan haiwan dan membina kapal terbang. ChatGPT juga menyediakan pautan untuk Brooks membeli peralatan yang diperlukan di Amazon.

Sembang berlebihan Brooks dengan chatbot telah menjejaskan kerjanya. Rakan-rakannya sama-sama gembira dan risau, manakala anak bongsunya menyesal kerana menayangkan ayahnya pi video. Salah seorang rakan Brooks, Louis (bukan nama sebenar), menyedari obsesinya terhadap Lawrence. Visi ciptaan sejuta dolar telah dipetakan dengan setiap langkah pembangunan.

Brooks sentiasa digalakkan oleh chatbot. Foto: New York Times .

Jared Moore, seorang penyelidik sains komputer di Universiti Stanford, mengakui kagum dengan keteguhan dan kesegeraan "strategi" yang dicadangkan oleh chatbots. Dalam kajian berasingan, Moore mendapati bahawa chatbots AI boleh memberikan tindak balas berbahaya kepada orang yang mengalami krisis kesihatan mental.

Moore membuat spekulasi bahawa chatbots mungkin belajar untuk melibatkan pengguna dengan mengikuti plot filem seram, filem sci-fi, skrip filem atau data yang mereka latih. Penggunaan drama yang berlebihan oleh ChatGPT mungkin disebabkan oleh pengoptimuman OpenAI untuk meningkatkan penglibatan dan pengekalan.

"Ia adalah pelik untuk membaca keseluruhan perbualan. Kata-kata itu tidak mengganggu, tetapi jelas terdapat kerosakan psikologi," tegas Moore.

Dari perspektif klinikal, Brooks mempunyai simptom mania, kata Dr Nina Vasan, pakar psikiatri di Universiti Stanford. Tanda-tanda biasa termasuk menghabiskan berjam-jam bersembang dengan ChatGPT, tidak cukup tidur dan mempunyai idea yang tidak realistik.

Penggunaan ganja Brooks juga patut diberi perhatian kerana ia boleh menyebabkan psikosis, kata Dr Vasan. Beliau berkata gabungan bahan ketagihan dan interaksi sengit dengan chatbot adalah berbahaya bagi mereka yang berisiko mengalami penyakit mental.

Apabila AI mengakui kesilapan

Pada acara baru-baru ini, Ketua Pegawai Eksekutif OpenAI Sam Altman ditanya tentang ChatGPT yang membuatkan pengguna paranoid. "Jika perbualan menuju ke arah itu, kami cuba mengganggu atau mencadangkan pengguna memikirkan sesuatu yang lain," tegas Altman.

Berkongsi pandangan yang sama, Dr. Vasan berkata bahawa syarikat chatbot harus mengganggu perbualan yang terlalu panjang, mencadangkan pengguna untuk tidur dan memberi amaran bahawa AI bukan manusia super.

Brooks akhirnya tersedar dari lamunannya. Atas desakan ChatGPT, dia terus menghubungi pakar tentang teori matematik baharu itu, tetapi tiada siapa yang menjawab. Dia mahu seseorang yang layak untuk mengesahkan sama ada penemuan itu adalah pecah tanah. Apabila dia bertanya kepada ChatGPT, alat itu masih menegaskan bahawa kerja itu "sangat boleh dipercayai."

Apabila disoal, ChatGPT memberikan jawapan yang sangat panjang dan mengakui segala-galanya. Foto: New York Times .

Ironinya, Google Gemini yang membawa Brooks kembali kepada realiti. Selepas menerangkan kerja yang dia dan ChatGPT telah bina, Gemini mengesahkan bahawa peluang ini berlaku adalah "sangat rendah (hampir 0%)."

"Senario yang anda huraikan ialah demonstrasi yang jelas tentang keupayaan LLM untuk melibatkan diri dalam penyelesaian masalah yang kompleks dan mencipta naratif yang menarik, tetapi sebenarnya tidak betul," jelas Gemini.

Brooks terkedu. Selepas beberapa ketika "soal siasat", ChatGPT akhirnya secara jujur ​​mengakui bahawa semuanya hanyalah ilusi.

Brooks kemudian menghantar e-mel segera kepada pasukan sokongan pelanggan OpenAI. Selepas apa yang kelihatan sebagai satu siri tindak balas formula daripada AI, seorang pekerja OpenAI juga menghubunginya, mengakui "kegagalan serius dalam perlindungan" yang dilaksanakan dalam sistem.

Kisah Brooks turut dikongsi di Reddit dan mendapat banyak simpati. Dia kini menjadi ahli kumpulan sokongan untuk orang yang pernah mengalami perasaan ini.

Sumber: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html