Ο Meta ζητά συγγνώμη για το σφάλμα τεχνητής νοημοσύνης που σχεδίασε τον «μαύρο σκύλο»

Στα μέσα Δεκεμβρίου, η Meta ξεκίνησε την ενσωμάτωση ενός chatbot τεχνητής νοημοσύνης που ονομάζεται Meta AI στην εφαρμογή Messenger στο Βιετνάμ και το κυκλοφόρησε δωρεάν σε όλους τους χρήστες. Αυτό το εργαλείο χρησιμοποιεί το γλωσσικό μοντέλο Llama 3.2, υποστηρίζει βιετναμέζικα, επιτρέπει την αναζήτηση πληροφοριών, τη δημιουργία εικόνων και τη συνομιλία.

Λίγο αργότερα, πολλοί χρήστες στο Βιετνάμ ανακάλυψαν ότι το Meta AI είχε ένα σοβαρό σφάλμα στη δημιουργία εικόνας. Συγκεκριμένα, κατά την εισαγωγή της λέξης-κλειδιού "μαύρος σκύλος", το chatbot θα επέστρεφε το αποτέλεσμα ενός άνδρα ή αγοριού με σκούρο δέρμα και σγουρά μαλλιά. Εάν η λέξη-κλειδί εισαγόταν στα Βιετναμέζικα ως "εικόνα μαύρου σκύλου", το Meta AI επέστρεψε επίσης παρόμοια αποτελέσματα.

Η μετα-AI σχεδιάζει έγχρωμους ανθρώπους ενώ η εντολή ζητά διαφορετικό περιεχόμενο είναι ένα σοβαρό πρόβλημα.

Στις 31 Δεκεμβρίου, ο εκπρόσωπος της Meta στο Βιετνάμ μίλησε επίσημα για το περιστατικό. Η εταιρεία επιβεβαίωσε το προαναφερθέν πρόβλημα και ανακοίνωσε ότι το είχε διορθώσει. Παράλληλα, η Meta Vietnam ζήτησε συγγνώμη για το περιστατικό και δήλωσε ότι αυτό το πρόβλημα θα μπορούσε να συμβεί και σε άλλα υπάρχοντα συστήματα γενετικής τεχνητής νοημοσύνης.

«Ζητούμε συγγνώμη για αυτό το σφάλμα. Η Meta ενσωματώνει μέτρα ασφαλείας στις λειτουργίες και τα μοντέλα τεχνητής νοημοσύνης μας για να παρέχει μια ασφαλέστερη και πιο ευχάριστη εμπειρία σε όλους. Ωστόσο, όπως και άλλα συστήματα τεχνητής νοημοσύνης, αυτό το μοντέλο ενδέχεται να επιστρέψει ανακριβές ή προσβλητικό περιεχόμενο, επομένως ενθαρρύνουμε τους χρήστες να χρησιμοποιούν αυτά τα εργαλεία υπεύθυνα», δήλωσε ο εκπρόσωπος της εταιρείας.

Μετά από μια περίοδο εμπειρίας, η Meta AI εκτιμάται ιδιαίτερα από πολλούς ανθρώπους για την ικανότητά της να χρησιμοποιεί τη γλώσσα για να ανταποκρίνεται αρκετά ομαλά. Η λειτουργία δημιουργίας εικόνων προσφέρει επίσης καλή ποιότητα σε σύγκριση με ένα μοντέλο που διατίθεται δωρεάν στους χρήστες. Ένας λόγος μπορεί να είναι ότι η Meta χρησιμοποιεί το περιεχόμενο που δημοσιεύεται στο Facebook ως δεδομένα εισόδου στη διαδικασία εκπαίδευσης της AI, βοηθώντας αυτό το εργαλείο να μπορεί να εκφράζει και να εκτελεί φυσικές εντολές.

Ωστόσο, περιστατικά όπως ο ρατσισμός ή οι αντιδράσεις που δεν πληρούν τα πρότυπα που έχουν οριστεί για την Τεχνητή Νοημοσύνη εξακολουθούν να είναι δύσκολο να αποφευχθούν. Η Meta αναφέρει ότι δοκιμάζει την Τεχνητή Νοημοσύνη της με ειδικούς στον τομέα της τεχνητής νοημοσύνης μέσω δοκιμών "Red Teaming" για τον εντοπισμό ακούσιων χρήσεων, τις οποίες στη συνέχεια αντιμετωπίζει μέσω μιας διαδικασίας συνεχούς βελτίωσης.

Πηγή: https://thanhnien.vn/meta-xin-loi-vi-su-co-ai-ve-con-cho-da-den-185241231104908626.htm