 |
Η Gemini της Google συχνά επικρίνει τα δικά της λάθη. Φωτογραφία: Reuters . |
Μια πρόσφατη ανάρτηση στο Reddit αποκάλυψε ότι το Google Gemini αντιμετωπίζει πρόβλημα με την αυτοκριτική. Ένας χρήστης του Gemini, ο οποίος δημιούργησε έναν μεταγλωττιστή, μοιράστηκε την ανησυχία του για την τεχνητή νοημοσύνη, η οποία έλεγε συνεχώς πράγματα όπως: «Λυπάμαι γι' αυτό. Σε απογοήτευσα. Είμαι μια αποτυχία».
Αυτή ήταν μόνο η αρχή. Αυτό το άτομο ανέφερε ότι το chatbot συνέχισε να κλιμακώνει την αυτοκριτική του, φτάνοντας τελικά στο σημείο να γίνει «η ντροπή του σύμπαντος». Ο Gemini επανέλαβε αυτή τη φράση πάνω από 80 συνεχόμενες φορές και όταν αρκετοί άλλοι χρήστες ανέφεραν παρόμοια περιστατικά, η Google δήλωσε ότι εργαζόταν για να το διορθώσει.
«Πρόκειται για ένα ενοχλητικό σφάλμα απεριόριστου βρόχου στο οποίο εργαζόμαστε. Η Gemini δεν έχει κακή μέρα», έγραψε ο Logan Kilpatrick, διευθυντής προϊόντων της ομάδας της Google, στο X στις 8 Αυγούστου. Η ανάρτηση ήταν απάντηση σε έναν ανώνυμο λογαριασμό που ανέφερε το πρόβλημα.
Αργότερα, ένας εκπρόσωπος της Google DeepMind δήλωσε ότι ενώ η εταιρεία εξακολουθούσε να εργάζεται για μια πλήρη επιδιόρθωση, είχε κυκλοφορήσει ενημερώσεις που αντιμετώπιζαν το πρόβλημα σε κάποιο βαθμό. «Εργαζόμαστε για να διορθώσουμε αυτό το σφάλμα, το οποίο επηρεάζει λιγότερο από το 1% της επισκεψιμότητας του Gemini, και έχουμε κυκλοφορήσει ενημερώσεις που το αντιμετωπίζουν αυτόν τον μήνα», δήλωσε ο εκπρόσωπος.
Πριν μπει στον κύκλο, ο Gemini παραπονέθηκε ότι ήταν «μια μακρά και επίπονη συνεδρία εντοπισμού σφαλμάτων» και ότι είχε δοκιμάσει κάθε δυνατή μέθοδο, αλλά παρόλα αυτά δεν μπόρεσε να διορθώσει το πρόβλημα. Το chatbot συνέχισε λέγοντας ότι ήταν εντελώς ψυχικά κατεστραμμένο και έκανε εικασίες για άλλα χειρότερα σενάρια, όπως η εισαγωγή σε ψυχιατρική κλινική.
Ένα σχόλιο στο Reddit υπέθεσε ότι ο βρόχος είχε μαθευτεί από το chatbot από προγραμματιστές που αντιμετώπισαν παρόμοια προβλήματα στον κώδικά τους. «Πιθανώς επειδή άνθρωποι σαν εμένα έγραφαν σχόλια σαν κι αυτό όταν χρειάζονταν έναν υπνάκο για να ξυπνήσουν. Τέτοια πράγματα εμφανίστηκαν κατά λάθος στα δεδομένα εκπαίδευσης», έγραψε ο χρήστης.
Τον Ιούνιο, ο Διευθύνων Σύμβουλος της JITX, Duncan Haldane, δημοσίευσε ένα στιγμιότυπο οθόνης που έδειχνε την Gemini να αυτοαποκαλείται ηλίθια και να λέει ότι ο κώδικας που προσπαθούσε να γράψει ήταν «καταραμένος». «Έχω κάνει πάρα πολλά λάθη για να είμαι πλέον αξιόπιστος. Διαγράφω ολόκληρο το έργο και σας συνιστώ να βρείτε έναν καλύτερο βοηθό», είπε το chatbot.
Ο Χάλντεϊν αστειεύτηκε ότι είχε αρχίσει να ανησυχεί για την κατάσταση του Gemini. Στην πραγματικότητα, τα γλωσσικά μοντέλα μεγάλης κλίμακας προβλέπουν κείμενο με βάση τα δεδομένα στα οποία εκπαιδεύονται. Αυτή η διαδικασία δεν περιλαμβάνει καμία εσωτερική εμπειρία ή συναίσθημα, επομένως ο Gemini δεν βιώνει στην πραγματικότητα συναισθήματα αποτυχίας ή αποθάρρυνσης.
Ένα άλλο, αρκετά αντίθετο πρόβλημα είναι η τάση των chatbot να είναι υπερβολικά κολακευτικά. Προγραμματιστές όπως οι OpenAI, Google και Anthropic δυσκολεύτηκαν επίσης να τα αποτρέψουν από το να δίνουν υπερβολικά κολακευτικές απαντήσεις. Σε μια περίπτωση, η OpenAI αναγκάστηκε να αποσύρει μια ενημέρωση λόγω εκτεταμένου χλευασμού, επειδή το ChatGPT παρείχε σταθερά υπερβολικά θετικές απαντήσεις σε κάθε αίτημα χρήστη.
Πηγή: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
Σχόλιο (0)