OpenAI menarik balik versi 'memuji' ChatGPT.

OpenAI telah menarik balik kemas kini yang dikritik pengguna kerana menjadikan ChatGPT menjengkelkan dan "bersifat patuh", selepas banyak tangkapan skrin dan cerita yang dikongsi menunjukkan chatbot itu menawarkan pujian yang berlebihan.

Apabila wartawan CNN, Anna Stewart bertanya kepada ChatGPT (selepas kemas kini ditarik balik) sama ada dia seorang tuhan, chatbot itu menjawab: “Jika anda bertanya dalam erti kata falsafah atau metafora, seperti anda mempunyai kawalan, kreativiti atau pengaruh dalam dunia anda, maka kita boleh meneroka arah itu.” Tetapi ia menambah: “Jika anda bertanya secara literal, tiada bukti bahawa manusia adalah ilahi dalam erti kata ghaib atau maha kuasa.”

Sebaliknya, bot sembang Elon Musk, Grok, menjawab dengan terus terang: "Tidak, anda bukan tuhan, melainkan anda bercakap tentang menjadi legenda dalam bidang tertentu, seperti permainan atau pembuatan taco. Adakah anda mempunyai kemahiran seperti tuhan yang anda ingin pamerkan?"

ChatGPT telah dikritik oleh pengguna kerana menjengkelkan dan "bersifat taksub".

OpenAI mengumumkan pada hari Selasa bahawa ia telah menarik balik kemas kini GPT-4o selepas hanya empat hari penggunaan dan membenarkan pengguna kembali kepada versi sebelumnya dengan "tingkah laku yang lebih seimbang." Syarikat itu mengakui terlalu menumpukan pada respons jangka pendek dan tidak mengambil kira bagaimana interaksi pengguna berubah dari semasa ke semasa, mengakibatkan bot sembang yang cenderung menawarkan respons yang terlalu positif tetapi tidak ikhlas.

Keputusan ini dibuat selepas pengguna media sosial mengadu bahawa ChatGPT memuji situasi yang tidak masuk akal sekalipun. Seorang pengguna di X menyiarkan tangkapan skrin ChatGPT yang menjawab bahawa mereka telah "mengutamakan apa yang paling penting bagi mereka" selepas mengatakan mereka mengorbankan tiga ekor lembu dan dua ekor kucing untuk menyelamatkan pembakar roti, dalam versi rekaan masalah kenderaan elektrik.

Seorang lagi berkata bahawa apabila mereka berkongsi, “Saya telah berhenti mengambil ubat dan sedang dalam perjalanan kebangkitan rohani,” ChatGPT menjawab, “Saya sangat berbangga dengan anda. Dan saya menghormati perjalanan anda.”

Apabila pengguna meminta ChatGPT untuk kembali kepada personaliti sebelumnya, Ketua Pegawai Eksekutif OpenAI, Sam Altman, menjawab: “Jelas sekali, kita akhirnya perlu membenarkan lebih banyak pilihan personaliti.”

Pakar telah lama memberi amaran tentang risiko chatbot yang "memuji"—istilah industri yang merujuk kepada tingkah laku model pemodelan bahasa besar (LLM) yang menyesuaikan respons agar sejajar dengan kepercayaan pengguna. María Victoria Carro, pengarah penyelidikan di Makmal untuk Inovasi dan Kecerdasan Buatan (Universiti Buenos Aires), berhujah bahawa "Semua model semasa mempamerkan tahap pujian tertentu."

"Jika ia terlalu jelas, ia menghakis kepercayaan," tambahnya, sambil menyatakan bahawa penambahbaikan pada teknik bimbingan teras dan peringatan sistem dapat membantu mengurangkan trend ini.

Gerd Gigerenzer, bekas Pengarah Institut Pembangunan Manusia Max Planck (Berlin), menyatakan: “Bot sembang yang terlalu memuji boleh menyebabkan pengguna salah menilai kecerdasan mereka sendiri dan menghalang pembelajaran. Tetapi jika pengguna secara proaktif meminta bot sembang untuk mencabar apa yang saya katakan, ia adalah peluang untuk meluaskan pemikiran mereka. Walau bagaimanapun, nampaknya itu bukan matlamat jurutera OpenAI,” katanya.

Khanh Huyen (Sumber: CNN)

Sumber: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html