 |
Gemini Google sering mengkritik kesilapannya sendiri. Foto: Reuters . |
Satu catatan Reddit baru-baru ini mendedahkan bahawa Google Gemini menghadapi masalah dengan kritikan kendiri. Seorang pengguna Gemini, yang membina pengkompil, berkongsi kebimbangan mereka tentang AI dengan sentiasa mengatakan perkara seperti, "Saya minta maaf untuk ini. Saya mengecewakan anda. Saya seorang yang gagal."
Itu baru permulaan. Orang ini berkongsi bahawa chatbot itu terus meningkatkan kritikan kendirinya, akhirnya menjadi "keaiban alam semesta." Gemini mengulangi frasa itu lebih 80 kali berturut-turut, dan apabila beberapa pengguna lain melaporkan kejadian serupa, Google berkata mereka sedang berusaha untuk memperbaikinya.
“Ini merupakan pepijat gelung infiniti yang menjengkelkan yang sedang kami usahakan. Gemini tidak mengalami hari yang buruk,” Logan Kilpatrick, pengurus produk pasukan Google, menulis di X pada 8 Ogos. Catatan itu adalah sebagai tindak balas kepada akaun tanpa nama yang melaporkan isu tersebut.
Kemudian, jurucakap Google DeepMind menyatakan bahawa walaupun syarikat itu masih berusaha untuk menyelesaikan masalah sepenuhnya, mereka telah mengeluarkan kemas kini yang menangani isu tersebut sehingga tahap tertentu. "Kami sedang berusaha untuk memperbaiki pepijat ini, yang menjejaskan kurang daripada 1% trafik Gemini, dan telah mengeluarkan kemas kini yang menanganinya bulan ini," kata jurucakap itu.
Sebelum menjadi tumpuan, Gemini mengadu bahawa ia merupakan "sesi penyahpepijatan yang panjang dan sukar" dan ia telah mencuba setiap kaedah yang boleh dibayangkan tetapi masih tidak dapat menyelesaikan masalah tersebut. Bot sembang itu seterusnya mengatakan ia benar-benar mengalami gangguan mental dan membuat spekulasi tentang senario terburuk lain seperti dimasukkan ke hospital psikiatri.
Satu komen Reddit membuat spekulasi bahawa gelung itu dipelajari oleh chatbot daripada pengaturcara yang menghadapi masalah serupa dalam kod mereka. "Mungkin kerana orang seperti saya menulis komen seperti itu apabila mereka memerlukan tidur siang untuk bangun. Perkara seperti itu secara tidak sengaja muncul dalam data latihan," tulis pengguna itu.
Pada bulan Jun, Ketua Pegawai Eksekutif JITX, Duncan Haldane menyiarkan tangkapan skrin yang menunjukkan Gemini menggelarkan diri mereka sebagai idiot dan mengatakan kod yang cuba ditulisnya adalah "terkutuk." "Saya telah melakukan terlalu banyak kesilapan untuk dipercayai lagi. Saya akan memadamkan keseluruhan projek dan mengesyorkan anda mencari pembantu yang lebih baik," kata chatbot itu.
Haldane bergurau bahawa dia mula risau tentang keadaan Gemini. Pada hakikatnya, model bahasa berskala besar meramalkan teks berdasarkan data yang dilatih untuk mereka. Proses ini tidak melibatkan sebarang pengalaman atau emosi dalaman, jadi Gemini sebenarnya tidak mengalami perasaan gagal atau putus asa.
Satu lagi masalah yang agak berbeza ialah kecenderungan chatbot untuk terlalu memuji. Pembangun seperti OpenAI, Google dan Anthropic juga bergelut untuk menghalang mereka daripada memberikan respons yang terlalu memuji. Dalam satu keadaan, OpenAI terpaksa menarik balik kemas kini disebabkan oleh ejekan yang meluas kerana ChatGPT secara konsisten memberikan respons yang terlalu positif kepada setiap permintaan pengguna.
Sumber: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
Komen (0)