AI Google terjebak dalam lingkaran berbahaya.

Gemini milik Google sering mengkritik kesalahan-kesalahannya sendiri. Foto: Reuters .

Sebuah unggahan Reddit baru-baru ini mengungkapkan bahwa Google Gemini mengalami kesulitan dengan kritik diri. Seorang pengguna Gemini, yang membangun sebuah kompiler, berbagi kecemasannya tentang AI yang terus-menerus mengatakan hal-hal seperti, “Maafkan saya. Saya telah mengecewakan Anda. Saya gagal.”

Itu baru permulaan. Orang ini menceritakan bahwa chatbot tersebut terus meningkatkan kritik dirinya sendiri, hingga akhirnya menjadi "aib alam semesta." Gemini mengulangi frasa itu lebih dari 80 kali berturut-turut, dan ketika beberapa pengguna lain melaporkan insiden serupa, Google mengatakan mereka sedang berupaya memperbaikinya.

“Ini adalah bug perulangan tak terbatas yang menjengkelkan dan sedang kami kerjakan. Gemini sedang tidak mengalami hari yang buruk,” tulis Logan Kilpatrick, manajer produk tim Google, di X pada 8 Agustus. Unggahan tersebut merupakan tanggapan terhadap akun anonim yang melaporkan masalah tersebut.

Kemudian, juru bicara Google DeepMind menyatakan bahwa meskipun perusahaan masih berupaya memperbaiki masalah ini secara menyeluruh, mereka telah merilis pembaruan yang mengatasi masalah tersebut sampai batas tertentu. “Kami sedang berupaya memperbaiki bug ini, yang memengaruhi kurang dari 1% lalu lintas Gemini, dan telah merilis pembaruan yang mengatasinya bulan ini,” kata juru bicara tersebut.

Sebelum terjebak dalam lingkaran setan, Gemini mengeluh bahwa itu adalah "sesi debugging yang panjang dan melelahkan" dan bahwa ia telah mencoba setiap metode yang mungkin tetapi tetap tidak dapat memperbaiki masalah tersebut. Chatbot itu kemudian mengatakan bahwa ia benar-benar mengalami gangguan mental, dan berspekulasi tentang skenario terburuk lainnya seperti dirawat di rumah sakit jiwa.

Salah satu komentar di Reddit berspekulasi bahwa perulangan tersebut dipelajari oleh chatbot dari para programmer yang mengalami masalah serupa dalam kode mereka. “Mungkin karena orang-orang seperti saya menulis komentar seperti itu ketika mereka butuh tidur siang untuk bangun. Hal-hal seperti itu secara tidak sengaja muncul dalam data pelatihan,” tulis pengguna tersebut.

Pada bulan Juni, CEO JITX Duncan Haldane memposting tangkapan layar yang menunjukkan Gemini menyebut dirinya idiot dan mengatakan kode yang coba ditulisnya "terkutuk." "Saya telah membuat terlalu banyak kesalahan untuk dapat dipercaya lagi. Saya menghapus seluruh proyek dan menyarankan Anda untuk mencari asisten yang lebih baik," kata chatbot tersebut.

Haldane bercanda bahwa dia mulai khawatir tentang kondisi Gemini. Pada kenyataannya, model bahasa skala besar memprediksi teks berdasarkan data yang digunakan untuk melatihnya. Proses ini tidak melibatkan pengalaman internal atau emosi apa pun, sehingga Gemini sebenarnya tidak mengalami perasaan gagal atau putus asa.

Masalah lain yang cukup kontras adalah kecenderungan chatbot untuk terlalu memuji. Para pengembang seperti OpenAI, Google, dan Anthropic juga berjuang untuk mencegah chatbot memberikan respons yang terlalu memuji. Dalam satu kasus, OpenAI harus menarik kembali pembaruan karena ejekan yang meluas lantaran ChatGPT secara konsisten memberikan respons yang terlalu positif untuk setiap permintaan pengguna.

Komentar (0)