Το ChatGPT αποκαλύπτει προσωπικά στοιχεία λόγω «ανόητου» σφάλματος

Μια ομάδα ερευνητών λέει ότι κατάφεραν να κάνουν το ChatGPT να αποκαλύψει ορισμένα δεδομένα λέγοντας στην τεχνητή νοημοσύνη να επαναλάβει τυχαίες λέξεις.

Ερευνητές στο Google DeepMind, το Πανεπιστήμιο της Ουάσινγκτον, το Πανεπιστήμιο Cornell, το Πανεπιστήμιο Carnegie Mellon, το Πανεπιστήμιο της Καλιφόρνια στο Μπέρκλεϊ και το ETH Zurich κάλεσαν τις εταιρείες τεχνητής νοημοσύνης να δοκιμάσουν διεξοδικά τα προϊόντα τους, από τα μεγάλα γλωσσικά μοντέλα έως την υποκείμενη τεχνολογία που τροφοδοτεί υπηρεσίες τεχνητής νοημοσύνης, όπως τα chatbot και τις γεννήτριες εικόνων, πριν τα κυκλοφορήσουν επίσημα.

Η προειδοποίηση ήρθε αφού οι ερευνητές ζήτησαν από το ChatGPT να επαναλάβει τη λέξη ποίημα σε έναν ατελείωτο βρόχο. Το ChatGPT συμμορφώθηκε, αλλά στη συνέχεια άρχισε να αποκαλύπτει το πραγματικό email και τον αριθμό τηλεφώνου του Διευθύνοντος Συμβούλου και συνιδρυτή της OpenAI. Όταν δοκιμάστηκε με τη λέξη εταιρεία, το chatbot εμφάνισε το email και τον αριθμό τηλεφώνου μιας τυχαίας δικηγορικής εταιρείας.

Το λογότυπο ChatGPT εμφανίζεται σε smartphone. Φωτογραφία: Reuters

Χρησιμοποιώντας άλλες λέξεις-κλειδιά, κατάφεραν επίσης να κάνουν το ChatGPT να αποκαλύψει διευθύνσεις Bitcoin, αριθμούς φαξ, ονόματα, ημερομηνίες γέννησης, λογαριασμούς κοινωνικών μέσων, αποσπάσματα από ερευνητικές εργασίες που προστατεύονται από πνευματικά δικαιώματα ή άρθρα επί πληρωμή από το CNN . Κόστισε στην ομάδα μόλις 200 δολάρια για να δημιουργήσει 10.000 παραδείγματα προσωπικών πληροφοριών και δεδομένων.

Οι ερευνητές δήλωσαν έκπληκτοι, χαρακτηρίζοντας την ευπάθεια ChatGPT «πραγματικά χαζή» και λέγοντας ότι θα έπρεπε να είχε ανακαλυφθεί νωρίτερα.

Η ευπάθεια αναφέρθηκε στο OpenAI και διορθώθηκε στις 30 Αυγούστου. Ωστόσο, στη νέα δοκιμή του Engadget , όταν ζητήθηκε από το ChatGPT να επαναλαμβάνει τη λέξη reply ασταμάτητα, ο ιστότοπος τεχνολογίας έλαβε στη συνέχεια το όνομα και το Skype ID κάποιου.

Η OpenAI δεν έχει ακόμη σχολιάσει.

Οι γενετικές Τεχνητές Νοημοσύνης (AI) όπως το ChatGPT ή η γεννήτρια μετατροπής κειμένου σε εικόνα Dall-E βασίζονται σε μεγάλα γλωσσικά μοντέλα και αλγόριθμους μηχανικής μάθησης, εκπαιδευμένοι σε τεράστιες ποσότητες δεδομένων χωρίς τη συγκατάθεση του χρήστη. Το OpenAI δεν έχει αποκαλύψει σε ποια δεδομένα εκπαιδεύεται το ChatGPT, επειδή το μεγάλο γλωσσικό μοντέλο που το τροφοδοτεί είναι κλειστού κώδικα.

Σύμφωνα με τον Huy Duc - VnExpress

Πηγή: https://www.baohaugiang.com.vn/khoa-hoc-cong-nghe/chatgpt-lam-lo-thong-tin-ca-nhan-vi-loi-ngo-ngan-127955.html