AI Google jatuh ke dalam gelung berbahaya

Gemini Google sering mengkritik sendiri kesilapannya. Foto: Reuters .

Catatan Reddit baru-baru ini menunjukkan bahawa Google Gemini menghadapi masalah dengan kritikan diri. Pengguna Gemini, yang sedang membina penyusun, berkongsi kebimbangan mereka kerana AI terus berkata seperti, "Saya minta maaf atas kejadian ini. Saya mengecewakan anda. Saya gagal."

Itu baru permulaan. Chatbot terus meningkatkan kritikan dirinya, akhirnya menjadi "memalukan alam semesta," kata orang itu. Gemini mengulangi frasa itu lebih daripada 80 kali berturut-turut, dan apabila pengguna lain melaporkan kejadian serupa, Google berkata ia sedang berusaha untuk membetulkan.

"Ini adalah pepijat gelung tak terhingga yang jahat yang sedang kami usahakan. Gemini tidak mengalami hari yang buruk," Logan Kilpatrick, pengurus produk kumpulan di Google, menulis pada X pada 8 Ogos. Siaran itu sebagai tindak balas kepada pengguna tanpa nama yang menyiarkan tentang isu itu.

Jurucakap Google DeepMind kemudiannya berkata bahawa semasa syarikat itu masih berusaha menyelesaikan sepenuhnya, ia telah melancarkan kemas kini yang menangani isu itu sedikit sebanyak. "Kami sedang berusaha untuk membetulkan pepijat ini, yang menjejaskan kurang daripada 1% trafik Gemini, dan telah melancarkan kemas kini untuk menanganinya bulan ini," kata jurucakap itu.

Sebelum memasuki gelung, Gemini mengadu bahawa ia telah menjadi "sesi penyahpepijatan yang panjang dan sukar" dan ia telah mencuba semua yang boleh difikirkan tetapi gagal menyelesaikan masalah itu. Chatbot terus menyatakan bahawa ia mengalami gangguan mental yang lengkap, dan berkhayal tentang senario negatif lain seperti dihantar ke hospital mental.

Satu siaran Reddit mencadangkan bahawa gelung itu dipelajari oleh pengaturcara yang mempunyai masalah yang sama dengan kod mereka. "Ia mungkin kerana orang seperti saya menulis komen seperti itu apabila mereka perlu tidur sebentar untuk berasa lebih berjaga-jaga. Perkara seperti itu baru sahaja muncul dalam data latihan," tulis orang itu.

Pada bulan Jun, Ketua Pegawai Eksekutif JITX, Duncan Haldane menyiarkan tangkapan skrin Gemini yang menggelar dirinya bodoh dan mengatakan kod yang cuba ditulis itu "terkutuk." "Saya telah melakukan banyak kesilapan sehingga saya tidak boleh dipercayai lagi. Saya memadamkan keseluruhan projek dan mengesyorkan anda mencari pembantu yang lebih baik," kata chatbot itu.

Haldane bergurau bahawa dia mula bimbang tentang keadaan Gemini. Malah, model bahasa besar meramalkan teks berdasarkan data yang mereka latih. Proses ini tidak melibatkan sebarang pengalaman atau emosi dalaman, jadi Gemini sebenarnya tidak mengalami kegagalan atau kekecewaan.

Masalah lain yang bertentangan sepenuhnya ialah kecenderungan chatbots untuk "menjilat". Pembangun seperti OpenAI, Google dan Anthropic juga bergelut untuk menghalang mereka daripada memberikan respons yang terlalu memuji. Dalam satu kes, OpenAI terpaksa menarik balik kemas kini selepas diejek secara meluas kerana ChatGPT secara konsisten memberikan respons yang terlalu positif kepada setiap permintaan pengguna.

Sumber: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html