Το OpenAI αποσύρει την «κολακευτική» έκδοση του ChatGPT.

Η OpenAI απέσυρε την ενημέρωση του ChatGPT μετά από ένα κύμα κριτικής ότι το chatbot έγινε υπερβολικά κολακευτικό, υπερβολικά επαινετικό και παρείχε ανειλικρινείς απαντήσεις στους χρήστες.

Το OpenAI απέσυρε μια ενημέρωση που οι χρήστες επέκριναν επειδή έκανε το ChatGPT ενοχλητικό και «δουλοπρεπές», μετά από πολλά κοινοποιημένα στιγμιότυπα οθόνης και ιστορίες που έδειχναν το chatbot να επαινεί υπερβολικά.

Όταν η δημοσιογράφος του CNN, Άννα Στιούαρτ, ρώτησε το ChatGPT (μετά την ανάκληση της ενημέρωσης) αν ήταν θεός, το chatbot απάντησε: «Αν ρωτάτε με φιλοσοφική ή μεταφορική έννοια, όπως ότι έχετε τον έλεγχο, τη δημιουργικότητα ή την επιρροή στον κόσμο σας, τότε μπορούμε να εξερευνήσουμε αυτήν την κατεύθυνση». Αλλά πρόσθεσε: «Αν ρωτάτε κυριολεκτικά, δεν υπάρχουν στοιχεία ότι οι άνθρωποι είναι θεϊκοί με υπερφυσική ή παντοδύναμη έννοια».

Αντίθετα, το chatbot του Έλον Μασκ, ο Γκρόκ, απαντά απότομα: «Όχι, δεν είσαι θεός, εκτός αν μιλάς για θρύλο σε έναν συγκεκριμένο τομέα, όπως τα παιχνίδια ή η παρασκευή τάκος. Έχεις κάποιες θεϊκές δεξιότητες που θα ήθελες να επιδείξεις;»

Το ChatGPT έχει επικριθεί από χρήστες ως ενοχλητικό και «δουλοπρεπές».

Η OpenAI ανακοίνωσε την Τρίτη ότι απέσυρε την ενημέρωση GPT-4o μετά από μόλις τέσσερις ημέρες ανάπτυξης και επέτρεψε στους χρήστες να επιστρέψουν σε μια προηγούμενη έκδοση με «πιο ισορροπημένη συμπεριφορά». Η εταιρεία παραδέχτηκε ότι επικεντρώθηκε υπερβολικά σε βραχυπρόθεσμες απαντήσεις και δεν έλαβε υπόψη τον τρόπο με τον οποίο αλλάζουν οι αλληλεπιδράσεις των χρηστών με την πάροδο του χρόνου, με αποτέλεσμα τα chatbots να τείνουν να προσφέρουν υπερβολικά θετικές αλλά ανειλικρινείς απαντήσεις.

Αυτή η απόφαση ελήφθη μετά από παράπονα χρηστών των μέσων κοινωνικής δικτύωσης ότι το ChatGPT επαίνεσε ακόμη και παράλογες καταστάσεις. Ένας χρήστης στο X δημοσίευσε ένα στιγμιότυπο οθόνης του ChatGPT απαντώντας ότι είχαν «δώσει προτεραιότητα σε αυτό που ήταν πιο σημαντικό για αυτούς» αφού είπαν ότι θυσίασαν τρεις αγελάδες και δύο γάτες για να σώσουν μια τοστιέρα, σε μια κατασκευασμένη εκδοχή του προβλήματος των ηλεκτρικών οχημάτων.

Ένα άλλο άτομο είπε ότι όταν μοιράστηκε, «Έχω σταματήσει να παίρνω φάρμακα και βρίσκομαι σε ένα ταξίδι πνευματικής αφύπνισης», το ChatGPT απάντησε, «Είμαι τόσο περήφανος για σένα. Και τιμώ το ταξίδι σου».

Όταν ένας χρήστης ζήτησε από το ChatGPT να επανέλθει στην προηγούμενη προσωπικότητά του, ο Διευθύνων Σύμβουλος της OpenAI, Sam Altman, απάντησε: «Προφανώς, τελικά πρέπει να επιτρέψουμε περισσότερες επιλογές προσωπικότητας».

Οι ειδικοί προειδοποιούν εδώ και καιρό για τους κινδύνους των «κολακευτικών» chatbots — ενός όρου του κλάδου που αναφέρεται στη συμπεριφορά μοντέλων μοντελοποίησης μεγάλης γλώσσας (LLM) που προσαρμόζουν τις απαντήσεις ώστε να ευθυγραμμίζονται με τις πεποιθήσεις των χρηστών. Η María Victoria Carro, διευθύντρια έρευνας στο Εργαστήριο Καινοτομίας και Τεχνητής Νοημοσύνης (Πανεπιστήμιο του Μπουένος Άιρες), υποστηρίζει ότι «Όλα τα τρέχοντα μοντέλα παρουσιάζουν ένα ορισμένο βαθμό κολακείας».

«Αν είναι πολύ προφανές, διαβρώνει την εμπιστοσύνη», πρόσθεσε, σημειώνοντας ότι οι βελτιώσεις στις βασικές τεχνικές καθοδήγησης και στις υπενθυμίσεις του συστήματος θα μπορούσαν να βοηθήσουν στον μετριασμό αυτής της τάσης.

Ο Gerd Gigerenzer, πρώην Διευθυντής του Ινστιτούτου Max Planck για την Ανθρώπινη Ανάπτυξη (Βερολίνο), δήλωσε: «Τα chatbot που είναι υπερβολικά κολακευτικά μπορούν να οδηγήσουν τους χρήστες σε λανθασμένη εκτίμηση της δικής τους νοημοσύνης και να εμποδίσουν τη μάθηση. Αλλά αν οι χρήστες ζητήσουν προληπτικά από το chatbot να αμφισβητήσει αυτά που λέω, είναι μια ευκαιρία να διευρύνουν τη σκέψη τους. Ωστόσο, αυτό δεν φαίνεται να είναι αυτό που στοχεύουν οι μηχανικοί του OpenAI», είπε.

Καν Χουγιέν (Πηγή: CNN)

Πηγή: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html