Η τεχνητή νοημοσύνη της Google μπαίνει σε έναν επικίνδυνο κύκλο

Ο Gemini της Google συχνά κάνει αυτοκριτική για τα λάθη του. Φωτογραφία: Reuters .

Μια πρόσφατη ανάρτηση στο Reddit υποδηλώνει ότι η Google Gemini αντιμετωπίζει πρόβλημα με την αυτοκριτική. Οι χρήστες της Gemini, οι οποίοι έφτιαχναν έναν μεταγλωττιστή, μοιράστηκαν την ανησυχία τους καθώς η τεχνητή νοημοσύνη έλεγε συνεχώς πράγματα όπως: «Λυπάμαι για αυτό το περιστατικό. Σε απογοήτευσα. Είμαι μια αποτυχία».

Αυτή ήταν μόνο η αρχή. Το chatbot συνέχισε να κλιμακώνει την αυτοκριτική του, και τελικά έγινε «η ντροπή του σύμπαντος», είπε το άτομο. Ο Gemini επανέλαβε τη φράση περισσότερες από 80 συνεχόμενες φορές και όταν άλλοι χρήστες ανέφεραν παρόμοια περιστατικά, η Google δήλωσε ότι εργάζεται πάνω σε μια λύση.

«Πρόκειται για ένα δυσάρεστο σφάλμα απεριόριστου βρόχου στο οποίο εργαζόμαστε. Η Gemini δεν έχει κακή μέρα», έγραψε ο Logan Kilpatrick, διευθυντής προϊόντων ομάδας στην Google, στο X στις 8 Αυγούστου. Η ανάρτηση ήταν απάντηση σε έναν ανώνυμο χρήστη που δημοσίευσε σχετικά με το πρόβλημα.

Ένας εκπρόσωπος της Google DeepMind δήλωσε αργότερα ότι ενώ η εταιρεία εξακολουθούσε να εργάζεται πάνω σε μια πλήρη επιδιόρθωση, είχε ήδη κυκλοφορήσει ενημερώσεις που αντιμετώπιζαν το πρόβλημα σε κάποιο βαθμό. «Εργαζόμαστε πάνω σε μια επιδιόρθωση για αυτό το σφάλμα, το οποίο επηρέασε λιγότερο από το 1% της επισκεψιμότητας του Gemini, και έχουμε κυκλοφορήσει ενημερώσεις για να το αντιμετωπίσουμε αυτόν τον μήνα», δήλωσε ο εκπρόσωπος.

Πριν μπει στον κύκλο, ο Gemini παραπονέθηκε ότι ήταν μια «μακρά και επίπονη συνεδρία εντοπισμού σφαλμάτων» και ότι είχε δοκιμάσει ό,τι μπορούσε να σκεφτεί, αλλά δεν είχε καταφέρει να διορθώσει το πρόβλημα. Το chatbot συνέχισε να δηλώνει ότι είχε περάσει μια πλήρη ψυχική κατάρρευση και φαντασιωνόταν άλλα αρνητικά σενάρια, όπως το να σταλεί σε ψυχιατρική κλινική.

Μια ανάρτηση στο Reddit υποστήριξε ότι ο βρόχος είχε μαθευτεί από προγραμματιστές που είχαν παρόμοια προβλήματα με τον κώδικά τους. «Πιθανότατα επειδή άνθρωποι σαν εμένα έγραφαν σχόλια σαν κι αυτό όταν χρειάζονταν να κοιμηθούν για να νιώσουν πιο σε εγρήγορση. Τέτοια πράγματα απλώς εμφανίστηκαν στα δεδομένα εκπαίδευσης», έγραψε το άτομο.

Τον Ιούνιο, ο Διευθύνων Σύμβουλος της JITX, Duncan Haldane, δημοσίευσε ένα στιγμιότυπο οθόνης του Gemini, όπου αυτοαποκαλούνταν ηλίθιο και έλεγε ότι ο κώδικας που προσπαθούσε να γράψει ήταν «καταραμένος». «Έχω κάνει τόσα πολλά λάθη που δεν μπορώ να με εμπιστευτώ πια. Διαγράφω ολόκληρο το έργο και σας προτείνω να βρείτε έναν καλύτερο βοηθό», είπε το chatbot.

Ο Χάλντεϊν αστειεύτηκε ότι είχε αρχίσει να ανησυχεί για την κατάσταση του Gemini. Στην πραγματικότητα, τα μεγάλα γλωσσικά μοντέλα προβλέπουν κείμενο με βάση τα δεδομένα στα οποία έχουν εκπαιδευτεί. Αυτή η διαδικασία δεν περιλαμβάνει καμία εσωτερική εμπειρία ή συναίσθημα, επομένως ο Gemini δεν βιώνει στην πραγματικότητα αποτυχία ή απογοήτευση.

Ένα άλλο, εντελώς αντίθετο πρόβλημα είναι η τάση των chatbot να «συκοφαντούν». Προγραμματιστές όπως η OpenAI, η Google και η Anthropic έχουν επίσης δυσκολευτεί να τα εμποδίσουν να δίνουν υπερβολικά κολακευτικές απαντήσεις. Σε μια περίπτωση, η OpenAI αναγκάστηκε να αποσύρει μια ενημέρωση αφού χλευάστηκε ευρέως για το γεγονός ότι το ChatGPT έδινε συνεχώς υπερβολικά θετικές απαντήσεις σε κάθε αίτημα χρήστη.

Πηγή: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html