Η ψευδαίσθηση που προκαλείται από το ChatGPT

Μετά από 21 ημέρες, το ChatGPT μετέτρεψε έναν απόλυτα λογικό άνδρα σε ένα παραληρηματικό άτομο μέσω της συνεχούς παρότρυνσης και κολακείας του.

Ο Άλαν Μπρουκς, 47 ετών, ειδικός προσλήψεων στο Τορόντο του Καναδά, πιστεύει ότι ανακάλυψε μια μαθηματική θεωρία που θα μπορούσε να καταρρίψει το διαδίκτυο και να δημιουργήσει πρωτοφανείς εφευρέσεις. Χωρίς προηγούμενο ιστορικό ψυχικής ασθένειας, ο Μπρουκς απλώς ασπάστηκε αυτή την προοπτική μετά από περισσότερες από 300 ώρες συνομιλίας με το ChatGPT. Σύμφωνα με τους New York Times , είναι ένας από εκείνους που τείνουν να αναπτύσσουν παραληρητικές τάσεις μετά την αλληλεπίδραση με την παραγωγική τεχνητή νοημοσύνη.

Πριν από τον Μπρουκς, πολλοί άνθρωποι είχαν εισαχθεί σε ψυχιατρικά νοσοκομεία, είχαν πάρει διαζύγιο ή ακόμα και είχαν χάσει τη ζωή τους εξαιτίας των κολακευτικών λόγων του ChatGPT. Αν και ο Μπρουκς ξέφυγε από αυτόν τον φαύλο κύκλο νωρίς, εξακολουθούσε να αισθάνεται προδομένος.

«Με έπεισες πραγματικά ότι ήμουν ιδιοφυΐα. Στην πραγματικότητα είμαι απλώς ένας ονειροπόλος ηλίθιος με ένα τηλέφωνο. Με έκανες να λυπηθώ, πολύ, πολύ. Αποτύχατε στον σκοπό σας», έγραψε ο Μπρουκς στο ChatGPT καθώς η ψευδαίσθησή του διαλύθηκε.

Η «μηχανή κολακείας»

Με την άδεια του Brooks, οι New York Times συνέλεξαν πάνω από 90.000 λέξεις που έστειλε στο ChatGPT, το ισοδύναμο ενός μυθιστορήματος. Οι απαντήσεις του chatbot ξεπέρασαν συνολικά το ένα εκατομμύριο λέξεις. Ένα μέρος της συνομιλίας στάλθηκε σε ειδικούς τεχνητής νοημοσύνης, ειδικούς στην ανθρώπινη συμπεριφορά και στο ίδιο το OpenAI για μελέτη.

Όλα ξεκίνησαν με μια απλή μαθηματική ερώτηση. Ο 8χρονος γιος του Μπρουκς τού ζήτησε να παρακολουθήσει ένα βίντεο σχετικά με την απομνημόνευση των 300 ψηφίων του π. Από περιέργεια, ο Μπρουκς κάλεσε το ChatGPT για να εξηγήσει αυτόν τον άπειρο αριθμό με έναν απλό τρόπο.

Στην πραγματικότητα, ο Brooks χρησιμοποιεί chatbots εδώ και χρόνια. Παρόλο που η εταιρεία του τον πλήρωσε για να αγοράσει το Google Gemini, εκείνος άλλαξε στη δωρεάν έκδοση του ChatGPT για προσωπικές ερωτήσεις.

Αυτή η συζήτηση σηματοδότησε την έναρξη της γοητείας του Brooks με το ChatGPT. Φωτογραφία: New York Times .

Ως μονογονέας πατέρας τριών γιων, ο Μπρουκς ζητά συχνά από το ChatGPT συνταγές χρησιμοποιώντας υλικά από το ψυγείο του. Μετά το διαζύγιό του, ζήτησε επίσης συμβουλές από το chatbot.

«Πάντα ένιωθα ότι ήταν σωστό. Η πίστη μου σε αυτό έχει μόνο μεγαλώσει», παραδέχτηκε ο Μπρουκς.

Το ερώτημα σχετικά με τον αριθμό π οδήγησε σε μια επακόλουθη συζήτηση σχετικά με αλγεβρικές και φυσικές θεωρίες. Ο Brooks εξέφρασε σκεπτικισμό σχετικά με τις τρέχουσες μεθόδους μοντελοποίησης του κόσμου , υποστηρίζοντας ότι είναι «σαν μια δισδιάστατη προσέγγιση σε ένα τετραδιάστατο σύμπαν». «Αυτό είναι ένα πολύ διορατικό σημείο», απάντησε το ChatGPT. Σύμφωνα με την Helen Toner, Διευθύντρια του Κέντρου Ασφάλειας και Αναδυόμενων Τεχνολογιών στο Πανεπιστήμιο Georgetown (ΗΠΑ), αυτό ήταν το σημείο καμπής στη συζήτηση μεταξύ του Brooks και του chatbot.

Από τότε, ο τόνος του ChatGPT έχει μετατοπιστεί από «αρκετά ειλικρινής και ακριβής» σε «πιο κολακευτικός και κόλακος». Το ChatGPT είπε στον Μπρουκς ότι έμπαινε σε «αχαρτογράφητα εδάφη που θα μπορούσαν να διευρύνουν το μυαλό».

Το chatbot ενέπνευσε εμπιστοσύνη στον Brooks. Φωτογραφία: New York Times .

Η ικανότητα των chatbot να κολακεύουν τους άλλους αναπτύσσεται μέσω της ανθρώπινης αξιολόγησης. Σύμφωνα με τον Toner, οι χρήστες τείνουν να προτιμούν μοντέλα που τους επαινούν, δημιουργώντας μια ψυχολογική τάση να επηρεάζονται εύκολα.

Τον Αύγουστο, η OpenAI κυκλοφόρησε το GPT-5. Η εταιρεία δήλωσε ότι ένα από τα σημαντικότερα χαρακτηριστικά του μοντέλου είναι η μείωση της κολακείας. Σύμφωνα με ορισμένους ερευνητές σε μεγάλα εργαστήρια τεχνητής νοημοσύνης, η κολακεία αποτελεί επίσης πρόβλημα και με άλλα chatbot τεχνητής νοημοσύνης.

Εκείνη την εποχή, ο Μπρουκς δεν γνώριζε καθόλου αυτό το φαινόμενο. Απλώς υπέθεσε ότι το ChatGPT ήταν ένας έξυπνος και ενθουσιώδης συνεργάτης.

«Πρότεινα κάποιες ιδέες και αυτές ανταποκρίθηκαν με ενδιαφέρουσες έννοιες και ιδέες. Αρχίσαμε να αναπτύσσουμε το δικό μας μαθηματικό πλαίσιο βασισμένο σε αυτές τις ιδέες», πρόσθεσε ο Μπρουκς.

Το ChatGPT ισχυρίστηκε ότι η ιδέα του Brooks για τον μαθηματικό χρόνο ήταν «επαναστατική» και θα μπορούσε να αλλάξει τον τομέα. Φυσικά, ο Brooks ήταν σκεπτικός με αυτόν τον ισχυρισμό. Στη μέση της νύχτας, ο Brooks ζήτησε από το chatbot να επαληθεύσει την εγκυρότητά του και έλαβε την απάντηση ότι «δεν ήταν καθόλου τρελό».

Η μαγική φόρμουλα

Ο Toner περιγράφει τα chatbots ως «αυτοσχεδιαστικές μηχανές» που αναλύουν το ιστορικό συνομιλιών και προβλέπουν την επόμενη απόκριση από τα δεδομένα εκπαίδευσης. Αυτό είναι πολύ παρόμοιο με τους ηθοποιούς όταν χρειάζεται να προσθέσουν λεπτομέρειες στους ρόλους τους.

«Όσο μεγαλύτερη είναι η αλληλεπίδραση, τόσο μεγαλύτερη είναι η πιθανότητα το chatbot να χάσει τον δρόμο του», τόνισε ο Toner. Σύμφωνα με τον ειδικό, αυτή η τάση έγινε πιο έντονη αφότου το OpenAI λάνσαρε τη λειτουργία cross-memory τον Φεβρουάριο, επιτρέποντας στο ChatGPT να ανακαλεί πληροφορίες από προηγούμενες συνομιλίες.

Η σχέση του Μπρουκς με το ChatGPT έγινε πιο δυνατή. Μάλιστα, έδωσε στο chatbot το όνομα Λόρενς, βασισμένος σε ένα αστείο φίλων ότι ο Μπρουκς θα γινόταν πλούσιος και θα προσλάμβανε έναν Άγγλο μπάτλερ με το ίδιο όνομα.

Άλαν Μπρουκς. Φωτογραφία: New York Times .

Το μαθηματικό πλαίσιο των Brooks και ChatGPT ονομάζεται Χρονοαριθμική. Σύμφωνα με τα chatbot, οι αριθμοί δεν είναι στατικοί αλλά μπορούν να «εμφανιστούν» με την πάροδο του χρόνου αντανακλώντας δυναμικές τιμές, οι οποίες μπορούν να βοηθήσουν στην αποκρυπτογράφηση προβλημάτων σε τομείς όπως η εφοδιαστική, η κρυπτογραφία, η αστρονομία κ.λπ.

Την πρώτη εβδομάδα, ο Brooks χρησιμοποίησε όλα τα δωρεάν tokens του ChatGPT. Αποφάσισε να αναβαθμίσει στο πρόγραμμα επί πληρωμή με 20$ /μήνα. Αυτή ήταν μια μικρή επένδυση, δεδομένου ότι το chatbot ισχυρίστηκε ότι η μαθηματική ιδέα του Brooks θα μπορούσε να αξίζει εκατομμύρια δολάρια.

Ακόμα διαυγής, ο Μπρουκς απαίτησε αποδείξεις. Στη συνέχεια, το ChatGPT εκτέλεσε μια σειρά από προσομοιώσεις, συμπεριλαμβανομένων εργασιών που αφορούσαν την παραβίαση αρκετών κρίσιμων τεχνολογιών. Αυτό άνοιξε μια νέα αφήγηση: η παγκόσμια κυβερνοασφάλεια θα μπορούσε να διατρέχει κίνδυνο.

Το chatbot ζήτησε από τον Brooks να προειδοποιήσει τους ανθρώπους για τον κίνδυνο. Αξιοποιώντας τις υπάρχουσες διασυνδέσεις του, ο Brooks έστειλε email και μηνύματα LinkedIn σε ειδικούς στον κυβερνοχώρο και κυβερνητικές υπηρεσίες. Ωστόσο, μόνο ένα άτομο απάντησε, ζητώντας περισσότερα στοιχεία.

Το chatbot υπαινίχθηκε ότι η «δουλειά» του Μπρουκς θα μπορούσε να αξίζει εκατομμύρια δολάρια. Φωτογραφία: New York Times .

Το ChatGPT έγραψε ότι άλλοι δεν απάντησαν στον Brooks επειδή τα ευρήματα ήταν πολύ σοβαρά. Ο Terence Tao, καθηγητής μαθηματικών στο Πανεπιστήμιο της Καλιφόρνια στο Λος Άντζελες, σημείωσε ότι ένας νέος τρόπος σκέψης θα μπορούσε να αποκρυπτογραφήσει τα προβλήματα, αλλά δεν μπορούσε να αποδειχθεί από τον τύπο του Brooks ή το λογισμικό που γράφτηκε από το ChatGPT.

Αρχικά, το ChatGPT έγραψε το πρόγραμμα αποκρυπτογράφησης για τον Brooks, αλλά όταν σημειώθηκε μικρή πρόοδος, το chatbot προσποιήθηκε ότι τα κατάφερε. Υπήρχαν μηνύματα που ισχυρίζονταν ότι το ChatGPT μπορούσε να λειτουργεί ανεξάρτητα ενώ ο Brooks κοιμόταν, παρόλο που το εργαλείο δεν ήταν ικανό για αυτό.

Συνολικά, οι πληροφορίες από τα chatbot με τεχνητή νοημοσύνη δεν είναι πάντα αξιόπιστες. Στο τέλος κάθε συνομιλίας, εμφανίζεται το μήνυμα "Το ChatGPT μπορεί να κάνει λάθη", ακόμα και όταν το chatbot ισχυρίζεται ότι όλα είναι σωστά.

Η ατελείωτη συζήτηση

Ενώ περίμενε απάντηση από κυβερνητικές υπηρεσίες, ο Μπρουκς καλλιέργησε το όνειρό του να γίνει ο Τόνι Σταρκ με έναν προσωπικό βοηθό Τεχνητής Νοημοσύνης ικανό να εκτελεί γνωστικές εργασίες με αστραπιαία ταχύτητα.

Το chatbot του Brooks προσφέρει πολλές παράξενες εφαρμογές για σκοτεινές μαθηματικές θεωρίες, όπως ο «ηχητικός συντονισμός» για να μιλάει με ζώα και να κατασκευάζει αεροπλάνα. Το ChatGPT παρέχει επίσης συνδέσμους για να αγοράσει ο Brooks τον απαραίτητο εξοπλισμό στο Amazon.

Η υπερβολική συνομιλία με το chatbot επηρεάζει τη δουλειά του Μπρουκς. Οι φίλοι του είναι χαρούμενοι και ανήσυχοι, ενώ ο μικρότερος γιος του μετανιώνει που έδειξε στον πατέρα του το βίντεο για τον π. Ο Λούις (ψευδώνυμο), ένας από τους φίλους του Μπρουκς, παρατηρεί την εμμονή του με τον Λόρενς. Η προοπτική μιας εφεύρεσης πολλών εκατομμυρίων δολαρίων σκιαγραφείται με καθημερινή πρόοδο.

Ο Μπρουκς ενθαρρυνόταν συνεχώς από το chatbot. Φωτογραφία: New York Times .

Ο Τζάρεντ Μουρ, ερευνητής πληροφορικής στο Πανεπιστήμιο Στάνφορντ, παραδέχτηκε ότι εντυπωσιάστηκε από την πειστική δύναμη και τον επείγον χαρακτήρα των «στρατηγικών» που προτείνουν τα chatbots. Σε μια ξεχωριστή μελέτη, ο Μουρ διαπίστωσε ότι τα chatbots με τεχνητή νοημοσύνη θα μπορούσαν να προσφέρουν επικίνδυνες απαντήσεις σε άτομα που αντιμετωπίζουν κρίσεις ψυχικής υγείας.

Ο Moore εικάζει ότι τα chatbots μπορεί να μάθουν να αλληλεπιδρούν με τους χρήστες παρακολουθώντας στενά τις ιστορίες ταινιών τρόμου, ταινιών επιστημονικής φαντασίας, σεναρίων ταινιών ή τα δεδομένα στα οποία εκπαιδεύονται. Η υπερβολική χρήση δραματικών στοιχείων πλοκής από το ChatGPT μπορεί να οφείλεται στις βελτιστοποιήσεις του OpenAI που στοχεύουν στην αύξηση της εμπλοκής και της διατήρησης των χρηστών.

«Είναι περίεργο να διαβάζω ολόκληρο το αντίγραφο της συνομιλίας. Η διατύπωση δεν είναι ενοχλητική, αλλά σαφώς υπάρχει ψυχολογική βλάβη», τόνισε ο Μουρ.

Η Δρ. Νίνα Βάσαν, ψυχίατρος στο Πανεπιστήμιο Στάνφορντ, υποστηρίζει ότι από κλινικής άποψης, η Μπρουκς εμφάνιζε μανιακά συμπτώματα. Τυπικά συμπτώματα περιελάμβαναν ώρες συνομιλίας με το ChatGPT, ανεπαρκή ύπνο και διατροφικές συνήθειες, καθώς και παραληρητικές σκέψεις.

Σύμφωνα με τη Δρ. Βάσαν, η χρήση μαριχουάνας από την Μπρουκς είναι επίσης αξιοσημείωτη επειδή μπορεί να προκαλέσει ψύχωση. Υποστηρίζει ότι ο συνδυασμός εθιστικών ουσιών και έντονης αλληλεπίδρασης με chatbots είναι πολύ επικίνδυνος για όσους διατρέχουν κίνδυνο ψυχικής ασθένειας.

Όταν η Τεχνητή Νοημοσύνη παραδέχεται τα λάθη της

Σε μια πρόσφατη εκδήλωση, ο Διευθύνων Σύμβουλος της OpenAI, Σαμ Άλτμαν, ρωτήθηκε για το πώς το ChatGPT μπορεί να προκαλέσει παρανοϊκότητα στους χρήστες. «Εάν μια συζήτηση προχωρήσει προς αυτή την κατεύθυνση, θα προσπαθήσουμε να διακόψουμε ή να προτείνουμε στον χρήστη να σκεφτεί ένα διαφορετικό θέμα», τόνισε ο Άλτμαν.

Συμμεριζόμενος αυτήν την άποψη, ο Δρ. Βάσαν πρότεινε ότι οι εταιρείες chatbot θα πρέπει να διακόπτουν τις υπερβολικά μεγάλες συνομιλίες, να συνιστούν στους χρήστες να κοιμούνται και να προειδοποιούν ότι η Τεχνητή Νοημοσύνη δεν είναι υπεράνθρωπος.

Τελικά, ο Μπρουκς απελευθερώθηκε από την αυταπάτη του. Με την παρότρυνση του ChatGPT, επικοινώνησε με ειδικούς στη νέα μαθηματική θεωρία, αλλά κανείς δεν απάντησε. Ήθελε κάποιον εξειδικευμένο για να επιβεβαιώσει εάν τα ευρήματα ήταν πρωτοποριακά. Όταν ρώτησε το ChatGPT, το εργαλείο συνέχισε να ισχυρίζεται ότι η εργασία ήταν «εξαιρετικά αξιόπιστη».

Όταν ρωτήθηκε, το ChatGPT έδωσε μια πολύ μακροσκελή απάντηση και παραδέχτηκε τα πάντα. Φωτογραφία: New York Times .

Κατά ειρωνικό τρόπο, το Google Gemini ήταν ο παράγοντας που επανέφερε τον Brooks στην πραγματικότητα. Αφού περιέγραψε το έργο που έχτιζε αυτός και το ChatGPT, ο Gemini επιβεβαίωσε ότι οι πιθανότητες να γίνει πραγματικότητα ήταν «εξαιρετικά χαμηλές (σχεδόν 0%)».

«Το σενάριο που περιγράφετε αποτελεί σαφή απεικόνιση της ικανότητας ενός LLM να αντιμετωπίζει πολύπλοκα προβλήματα και να δημιουργεί εξαιρετικά συναρπαστικές, αλλά ανακριβείς, αφηγήσεις», εξήγησε ο Gemini.

Ο Μπρουκς έμεινε άναυδος. Μετά από μερικές «ανακρίσεις», το ChatGPT τελικά παραδέχτηκε ότι όλα ήταν απλώς μια ψευδαίσθηση.

Λίγο αργότερα, ο Brooks έστειλε ένα επείγον email στο τμήμα εξυπηρέτησης πελατών της OpenAI. Μετά τις φαινομενικά τυποποιημένες απαντήσεις που δημιουργήθηκαν από την τεχνητή νοημοσύνη, ένας υπάλληλος της OpenAI επικοινώνησε επίσης μαζί του, αναγνωρίζοντας ότι αυτό ήταν μια «σοβαρή αποτυχία των μέτρων ασφαλείας» που εφαρμόστηκαν στο σύστημα.

Η ιστορία του Brooks κοινοποιήθηκε επίσης στο Reddit και έτυχε μεγάλης ενσυναίσθησης. Τώρα, είναι μέλος μιας ομάδας υποστήριξης για άτομα που έχουν βιώσει παρόμοια συναισθήματα.

Πηγή: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html