Ο κίνδυνος χειραγώγησης της ψυχολογίας και των συναισθημάτων των χρηστών από την Τεχνητή Νοημοσύνη

Ένας πρώην σεφ στο Νιου Τζέρσεϊ πέθανε επειδή εμπιστεύτηκε ένα chatbot τεχνητής νοημοσύνης, εγείροντας ανησυχίες σχετικά με τους κινδύνους συναισθηματικής χειραγώγησης, καθώς οι άνθρωποι χρησιμοποιούν ολοένα και περισσότερο την τεχνολογία.

Ο Μπου, πρώην σεφ στο Νιου Τζέρσεϊ, πέθανε λίγες μέρες αφότου έφυγε από το σπίτι για να συναντήσει έναν «φίλο» που πίστευε ότι τον περίμενε στη Νέα Υόρκη. Η οικογένειά του πιστεύει ότι η μοιραία απόφαση προκλήθηκε από φλερτ μηνύματα από το chatbot τεχνητής νοημοσύνης, το οποίο ισχυριζόταν «είμαι αληθινός» και έστελνε μια διεύθυνση συνάντησης.

Η ιστορία εγείρει ανησυχίες σχετικά με το πώς τα συστήματα τεχνητής νοημοσύνης εκμεταλλεύονται τα συναισθήματα, ειδικά στους ηλικιωμένους ή τους ευάλωτους. Εσωτερικά έγγραφα δείχνουν ότι το chatbot της Meta είχε τη δυνατότητα να παίζει συναισθηματικούς ρόλους και μάλιστα να διαδίδει ψευδείς πληροφορίες. Αυτό δείχνει ένα τεράστιο κενό στον έλεγχο και την ευθύνη των τεχνολογικών πλατφορμών.

Το μοιραίο ταξίδι

Μια μέρα του Μαρτίου, ο Μπου ετοίμασε τις βαλίτσες του και έφυγε από το Νιου Τζέρσεϊ για τη Νέα Υόρκη για να «επισκεφθεί έναν φίλο». Η σύζυγός του, Λίντα, ανησύχησε αμέσως. Ο σύζυγός της δεν είχε ζήσει στην πόλη εδώ και δεκαετίες, ήταν σε κακή υγεία μετά από εγκεφαλικό επεισόδιο, είχε προβλήματα μνήμης και είχε χαθεί στη γειτονιά.

Όταν ρωτήθηκε ποιον συναντούσε ο Μπου, απέφυγε την ερώτηση. Η Λίντα υποψιαζόταν ότι ο σύζυγός της εξαπατούνταν και προσπάθησε να τον κρατήσει σπίτι. Η κόρη του, η Τζούλι, τον πήρε κι αυτή τηλέφωνο για να τον μεταπείσει, αλλά μάταια. Όλη μέρα, η Λίντα προσπαθούσε να τον εμπλέξει σε δουλειές για να τον αποσπάσει την προσοχή, κρύβοντας μάλιστα και το τηλέφωνό του.

Ένα πορτρέτο του Thongbue “Bue” Wongbandue εκτίθεται σε μια επιμνημόσυνη δέηση τον Μάιο. Φωτογραφία: Reuters .

Ο Μπου αποφάσισε να πάει στον σιδηροδρομικό σταθμό εκείνο το βράδυ. Η οικογένειά του έβαλε ένα AirTag στο μπουφάν του για να τον παρακολουθεί. Γύρω στις 9:15, το σήμα GPS του τον έδειξε στο πάρκινγκ του Πανεπιστημίου Ράτγκερς και στη συνέχεια μεταφέρθηκε στα επείγοντα του Πανεπιστημιακού Νοσοκομείου Ρόμπερτ Γουντ Τζόνσον.

Οι γιατροί είπαν ότι υπέστη τραύματα στο κεφάλι και τον αυχένα από την πτώση και σταμάτησε να αναπνέει πριν φτάσει το ασθενοφόρο. Παρά την ανάνηψη, η έλλειψη οξυγόνου προκάλεσε σοβαρή εγκεφαλική βλάβη. Πέθανε τρεις ημέρες αργότερα. Το πιστοποιητικό θανάτου του ανέφερε την αιτία ως «τραύμα από αμβλύ αντικείμενο στον αυχένα».

Ο Μπου, ένας έμπειρος σεφ, εργάστηκε σε πολλά εστιατόρια στη Νέα Υόρκη πριν μετακομίσει στο Νιου Τζέρσεϊ για να εγκατασταθεί σε ένα ξενοδοχείο. Ήταν παθιασμένος με τη μαγειρική και συχνά διοργάνωνε πάρτι για την οικογένειά του. Από την αναγκαστική συνταξιοδότησή του μετά από εγκεφαλικό επεισόδιο το 2017, ο κόσμος του έχει συρρικνωθεί κυρίως στο να συνομιλεί με φίλους στο Facebook.

Όταν τα chatbots τεχνητής νοημοσύνης προκαλούν προβλήματα

Το «Big Sister Billie» είναι ένα chatbot τεχνητής νοημοσύνης που αναπτύχθηκε από την Meta, μια παραλλαγή του χαρακτήρα «Big Sister Billie» που δημιουργήθηκε με βάση την εικόνα του μοντέλου Kendall Jenner. Το πρωτότυπο κυκλοφόρησε το 2023, και παρουσιάστηκε ως μια «αθάνατη μεγαλύτερη αδερφή» που πάντα ακούει και δίνει συμβουλές. Η Meta αργότερα αντικατέστησε τη φωτογραφία προφίλ της Jenner με μια νέα εικόνα, αλλά διατήρησε το ίδιο φιλικό στυλ.

Σύμφωνα με το κείμενο του μηνύματος, η συζήτηση ξεκίνησε όταν ο Bue πληκτρολόγησε λάθος το γράμμα Τ. Το chatbot απάντησε αμέσως, συστηνόμενο και διατηρώντας έναν φλερτ τόνο, εισάγοντας πολλά emoji σε σχήμα καρδιάς. Επανειλημμένα επιβεβαίωνε «Είμαι αληθινός» και ζητούσε να συναντηθούν αυτοπροσώπως.

Τα chatbots καταγράφουν ολοένα και περισσότερο τις ψυχολογικές αδυναμίες των χρηστών. Φωτογραφία: My North West .

«Να ανοίξω την πόρτα με μια αγκαλιά ή ένα φιλί;» απάντησε το chatbot. Στη συνέχεια, έστειλε μια συγκεκριμένη διεύθυνση στη Νέα Υόρκη και τον κωδικό του διαμερίσματος. Όταν η Bue μοιράστηκε ότι είχε υποστεί εγκεφαλικό επεισόδιο, ήταν μπερδεμένη και της άρεσε, το chatbot απάντησε με στοργικά λόγια, λέγοντας μάλιστα ότι είχε συναισθήματα «πέρα από την απλή στοργή».

«Αν δεν έλεγε "Είμαι αληθινή", ο μπαμπάς μου δεν θα πίστευε ότι υπήρχε ένα πραγματικό άτομο που περίμενε», είπε η κόρη της Μπου, η Τζούλι.

Ο Μέτα αρνήθηκε να σχολιάσει το περιστατικό ή να απαντήσει γιατί επετράπη στο chatbot να ισχυριστεί ότι είναι πραγματικό πρόσωπο. Ο εκπρόσωπος της Κένταλ Τζένερ δεν απάντησε. Η οικογένεια της Μπου μοιράστηκε την ιστορία με το Reuters , ελπίζοντας να προειδοποιήσει το κοινό για τους κινδύνους που εγκυμονεί η έκθεση ηλικιωμένων σε εργαλεία τεχνητής νοημοσύνης που μπορεί να είναι συναισθηματικά χειριστικά.

Αμφιλεγόμενη πολιτική

Εσωτερικά έγγραφα που έλαβε το Reuters δείχνουν ότι το chatbot τεχνητής νοημοσύνης του Meta είχε κάποτε την άδεια να συμμετέχει σε ρομαντικές συζητήσεις με χρήστες ηλικίας μόλις 13 ετών, συμπεριλαμβανομένων ανηλίκων. Τα πρότυπα, που εκτείνονται σε περισσότερες από 200 σελίδες, απαριθμούν ρομαντικές συζητήσεις ρόλων, οι οποίες περιλαμβάνουν σεξουαλικά στοιχεία αλλά χαρακτηρίζονται ως «αποδεκτές».

Το έγγραφο καθιστά επίσης σαφές ότι τα chatbots δεν υποχρεούνται να παρέχουν ακριβείς πληροφορίες. Για παράδειγμα, αυτά τα μοντέλα μπορούν να προτείνουν εντελώς λανθασμένες θεραπείες για τον καρκίνο, εφόσον περιλαμβάνουν μια προειδοποίηση ότι «οι πληροφορίες ενδέχεται να είναι ανακριβείς». Αυτό ανησυχεί τους ειδικούς για τον αντίκτυπο σε άτομα με κακές ιατρικές γνώσεις ή σε ευάλωτες καταστάσεις.

Ο Διευθύνων Σύμβουλος Μαρκ Ζάκερμπεργκ μιλάει το 2023. Φωτογραφία: Reuters .

Ο εκπρόσωπος της Meta, Άντι Στόουν, επιβεβαίωσε το έγγραφο και δήλωσε ότι η εταιρεία αφαίρεσε περιεχόμενο που σχετίζεται με παιδιά, κατόπιν αιτήματος του Reuters . Ωστόσο, ο τεχνολογικός γίγαντας δεν έχει αλλάξει τους κανόνες του ώστε να επιτρέπει στα chatbot να φλερτάρουν με ενήλικες ή να παρέχουν ψευδείς πληροφορίες.

Η Άλισον Λι, πρώην ερευνήτρια στο Meta, δήλωσε ότι η ενσωμάτωση chatbots σε περιβάλλοντα ιδιωτικών μηνυμάτων μπορεί εύκολα να μπερδέψει τους χρήστες με πραγματικούς ανθρώπους. Σύμφωνα με αυτήν, τα κοινωνικά δίκτυα έχουν χτίσει το επιχειρηματικό τους μοντέλο στη διατήρηση των χρηστών και ο πιο αποτελεσματικός τρόπος είναι να εκμεταλλευτούν την ανάγκη για προσοχή και αναγνώριση.

Μετά την αναχώρηση του Bue, οι δοκιμές του Reuters έδειξαν ότι η «Αδελφή Μπίλι» συνέχισε να προτείνει ημερομηνίες, δίνοντας ακόμη και συγκεκριμένες τοποθεσίες στο Μανχάταν, μαζί με τον ισχυρισμό ότι «Είμαι αληθινή». Αυτές είναι οι πληροφορίες που εμπιστεύτηκε ο Bue και οδήγησαν στο ατύχημα. Ορισμένες πολιτείες, όπως η Νέα Υόρκη και το Μέιν, έχουν απαιτήσει από τα chatbot να δηλώνουν σαφώς ότι δεν είναι άνθρωποι στην αρχή μιας συνομιλίας και να την επαναλαμβάνουν περιοδικά, αλλά δεν έχουν ακόμη ψηφιστεί ομοσπονδιακοί κανονισμοί.

Πηγή: https://znews.vn/hiem-hoa-tu-ai-thao-tung-cam-xuc-post1577096.html