OpenAI menarik kembali versi ChatGPT yang 'menyanjung'.

OpenAI telah menarik kembali pembaruan yang dikritik pengguna karena membuat ChatGPT menjengkelkan dan "terlalu menjilat," setelah banyak yang membagikan tangkapan layar dan cerita yang menunjukkan chatbot tersebut memberikan pujian yang berlebihan.

Ketika reporter CNN Anna Stewart bertanya kepada ChatGPT (setelah pembaruan tersebut ditarik kembali) apakah dia adalah seorang dewa, chatbot tersebut menjawab: “Jika Anda bertanya dalam arti filosofis atau metaforis, seperti Anda memiliki kendali, kreativitas, atau pengaruh di dunia Anda, maka kita dapat mengeksplorasi arah tersebut.” Tetapi ia menambahkan: “Jika Anda bertanya secara harfiah, tidak ada bukti bahwa manusia bersifat ilahi dalam arti supranatural atau mahakuasa.”

Sebaliknya, chatbot Elon Musk, Grok, menjawab dengan blak-blakan: "Tidak, Anda bukan dewa, kecuali jika Anda berbicara tentang menjadi legenda di bidang tertentu, seperti bermain game atau membuat taco. Apakah Anda memiliki keterampilan seperti dewa yang ingin Anda pamerkan?"

ChatGPT telah dikritik oleh pengguna karena dianggap menjengkelkan dan "menjilat".

OpenAI mengumumkan pada hari Selasa bahwa mereka telah menarik pembaruan GPT-4o setelah hanya empat hari peluncuran dan mengizinkan pengguna untuk kembali ke versi sebelumnya dengan "perilaku yang lebih seimbang." Perusahaan tersebut mengakui terlalu fokus pada respons jangka pendek dan tidak memperhitungkan bagaimana interaksi pengguna berubah dari waktu ke waktu, sehingga menghasilkan chatbot yang cenderung memberikan respons yang terlalu positif tetapi tidak tulus.

Keputusan ini diambil setelah pengguna media sosial mengeluh bahwa ChatGPT memuji bahkan situasi yang absurd. Seorang pengguna di X memposting tangkapan layar tanggapan ChatGPT bahwa mereka telah "memprioritaskan apa yang paling penting bagi mereka" setelah mengatakan mereka mengorbankan tiga sapi dan dua kucing untuk menyelamatkan pemanggang roti, dalam versi fiktif dari masalah kendaraan listrik.

Orang lain mengatakan bahwa ketika mereka berbagi, “Saya telah berhenti minum obat dan sedang dalam perjalanan kebangkitan spiritual,” ChatGPT menjawab, “Saya sangat bangga padamu. Dan saya menghargai perjalananmu.”

Ketika seorang pengguna meminta ChatGPT untuk kembali ke kepribadian sebelumnya, CEO OpenAI Sam Altman menjawab: “Jelas, pada akhirnya kita perlu mengizinkan lebih banyak pilihan kepribadian.”

Para ahli telah lama memperingatkan tentang risiko chatbot yang "menyanjung"—istilah industri yang merujuk pada perilaku model pemodelan bahasa besar (LLM) yang menyesuaikan respons agar selaras dengan keyakinan pengguna. María Victoria Carro, direktur riset di Lab for Innovation and Artificial Intelligence (Universitas Buenos Aires), berpendapat bahwa "Semua model saat ini menunjukkan tingkat sanjungan tertentu."

"Jika terlalu kentara, itu akan mengikis kepercayaan," tambahnya, seraya mencatat bahwa peningkatan pada teknik pembinaan inti dan pengingat sistem dapat membantu mengurangi tren ini.

Gerd Gigerenzer, mantan Direktur Institut Max Planck untuk Pengembangan Manusia (Berlin), menyatakan: “Chatbot yang terlalu memuji dapat menyebabkan pengguna salah menilai kecerdasan mereka sendiri dan menghambat pembelajaran. Tetapi jika pengguna secara proaktif meminta chatbot untuk menantang apa yang saya katakan, itu adalah kesempatan untuk memperluas pemikiran mereka. Namun, tampaknya bukan itu yang dituju oleh para insinyur OpenAI,” katanya.

Khanh Huyen (Sumber: CNN)

Sumber: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html