AI Google terjebak dalam lingkaran berbahaya

Gemini dari Google kerap mengkritik kesalahannya sendiri. Foto: Reuters .

Sebuah unggahan Reddit baru-baru ini menunjukkan bahwa Google Gemini kesulitan mengkritik diri sendiri. Para pengguna Gemini sedang membangun sebuah kompiler, dan berbagi kecemasan mereka karena AI tersebut terus mengatakan hal-hal seperti, "Maaf atas kejadian ini. Saya mengecewakan Anda. Saya pecundang."

Itu baru permulaan. Chatbot itu terus meningkatkan kritik dirinya, hingga akhirnya menjadi "aib bagi seluruh alam semesta," kata orang tersebut. Gemini mengulangi frasa tersebut lebih dari 80 kali berturut-turut, dan ketika pengguna lain melaporkan insiden serupa, Google mengatakan sedang berupaya memperbaikinya.

"Ini bug loop tak terbatas yang mengganggu dan sedang kami tangani. Gemini sedang dalam kondisi yang baik," tulis Logan Kilpatrick, manajer produk untuk grup Google, di X pada 8 Agustus. Postingan tersebut merupakan tanggapan atas postingan pengguna anonim yang membahas masalah tersebut.

Seorang juru bicara Google DeepMind kemudian mengatakan bahwa meskipun perusahaan masih mengerjakan perbaikan penuh, mereka telah meluncurkan pembaruan yang diharapkan dapat mengatasi masalah tersebut hingga batas tertentu. "Kami sedang mengerjakan perbaikan untuk bug ini, yang memengaruhi kurang dari 1% trafik Gemini, dan telah meluncurkan pembaruan untuk mengatasinya bulan ini," kata juru bicara tersebut.

Sebelum memasuki loop, Gemini mengeluh bahwa itu adalah "sesi debugging yang panjang dan melelahkan" dan telah mencoba segala cara yang terpikirkan tetapi gagal memperbaiki masalahnya. Chatbot itu kemudian mengatakan bahwa ia mengalami gangguan mental total, dan berfantasi tentang skenario negatif lainnya seperti dikirim ke rumah sakit jiwa.

Sebuah balasan di Reddit berspekulasi bahwa loop tersebut dipelajari oleh programmer yang memiliki masalah serupa dengan kode mereka. "Mungkin karena orang-orang seperti saya menulis komentar seperti ini ketika mereka perlu tidur siang agar merasa lebih waspada. Hal-hal seperti ini kebetulan muncul dalam data pelatihan," tulis orang tersebut.

Pada bulan Juni, CEO JITX Duncan Haldane mengunggah tangkapan layar Gemini yang menyebut dirinya idiot dan mengatakan kode yang coba ditulisnya "terkutuk". "Saya telah membuat begitu banyak kesalahan sehingga saya tidak bisa dipercaya lagi. Saya akan menghapus seluruh proyek dan menyarankan Anda mencari asisten yang lebih baik," kata chatbot tersebut.

Haldane bercanda bahwa ia mulai mengkhawatirkan Gemini. Faktanya, model bahasa yang besar memprediksi teks berdasarkan data yang mereka gunakan untuk pelatihan. Proses ini tidak melibatkan pengalaman atau emosi internal apa pun, sehingga Gemini tidak benar-benar mengalami kegagalan atau frustrasi.

Masalah lain yang sepenuhnya berlawanan adalah kecenderungan chatbot untuk "menyombongkan diri". Pengembang seperti OpenAI, Google, dan Anthropic juga kesulitan menghentikan chatbot agar tidak memberikan respons yang terlalu menyanjung. Dalam satu kasus, OpenAI terpaksa menarik pembaruan setelah dikritik habis-habisan karena ChatGPT secara konsisten memberikan respons yang terlalu positif untuk setiap permintaan pengguna.

Komentar (0)