Τεχνητή Νοημοσύνη: Η Σκοτεινή Πλευρά του Εργαλείου Ψίθυρος

Η χρήση του Whisper για τη δημιουργία λεζάντων για άτομα με προβλήματα ακοής είναι επίσης προβληματική, καθώς δεν υπάρχει τρόπος ανίχνευσης παραπληροφόρησης που κρύβεται ανάμεσα στα εκατομμύρια λέξεων που δημιουργούνται.

Φωτογραφία εικονογράφησης. (Πηγή: Voicegain)

Στην εποχή της Τεχνητής Νοημοσύνης (ΤΝ) που γίνεται αναπόσπαστο κομμάτι της καθημερινής ζωής, ένα εργαλείο που ονομάζεται Whisper, το οποίο αναπτύχθηκε από την OpenAI, έχει προσελκύσει μεγάλη προσοχή χάρη στην ικανότητά του να κρατά αυτόματα σημειώσεις με σχεδόν «ανθρώπινη ακρίβεια».

Πίσω από την αναγνώριση, ωστόσο, το Whisper δέχεται έντονη κριτική για ένα σοβαρό ελάττωμα: την ικανότητά του να αυτο-μυθοπλασία, δηλαδή να δημιουργεί κείμενο ή ακόμα και δηλώσεις που κανείς δεν έχει γράψει ποτέ.

Σύμφωνα με μηχανικούς λογισμικού και ερευνητές, οι φανταστικές λεπτομέρειες όχι μόνο προκαλούν σύγχυση, αλλά μπορούν επίσης να περιέχουν ρατσιστικά σχόλια, βίαιη γλώσσα και μη ρεαλιστικές ιατρικές θεραπείες.

Παρόλο που η OpenAI έχει προειδοποιήσει ότι το εργαλείο δεν πρέπει να χρησιμοποιείται σε «περιοχές υψηλού κινδύνου», πολλές ιατρικές εγκαταστάσεις εξακολουθούν να υιοθετούν ενεργά το Whisper για την καταγραφή των συμβουλών γιατρού-ασθενούς.

Στην πραγματικότητα, μια πρόσφατη μελέτη διαπίστωσε ότι έως και το 80% των ηχογραφήσεων σε μια έρευνα δημόσιων συναντήσεων περιείχαν αυτές τις φανταστικές λεπτομέρειες. Ένας μηχανικός μηχανικής μάθησης επεσήμανε επίσης ότι η ανάλυση περισσότερων από 100 ωρών μεταγραφών του Whisper αποκάλυψε ότι περίπου το 50% αυτών περιείχε σοβαρά σφάλματα, εγείροντας ανησυχίες σχετικά με την αξιοπιστία της τεχνολογίας, η οποία χρησιμοποιείται ολοένα και περισσότερο.

Οι ειδικοί προειδοποιούν ότι τα λάθη μπορούν να οδηγήσουν σε «πραγματικά σοβαρές συνέπειες», ειδικά στον ιατρικό τομέα.

Η Αλόντρα Νέλσον, πρώην διευθύντρια του Γραφείου Επιστημονικής και Τεχνολογικής Πολιτικής του Λευκού Οίκου, τόνισε ότι κανείς δεν θέλει λανθασμένη διάγνωση και ζήτησε υψηλότερα πρότυπα στην εφαρμογή αυτής της τεχνολογίας.

Η χρήση του Whisper για τη δημιουργία λεζάντων για άτομα με προβλήματα ακοής είναι επίσης προβληματική, καθώς δεν υπάρχει τρόπος ανίχνευσης παραπληροφόρησης που κρύβεται ανάμεσα στα εκατομμύρια λέξεων που δημιουργούνται.

Η άνοδος των φανταστικών κειμένων έχει ωθήσει πολλούς ειδικούς, ακτιβιστές και πρώην υπαλλήλους του OpenAI να ζητήσουν από την ομοσπονδιακή κυβέρνηση να εξετάσει το ενδεχόμενο ρύθμισης της τεχνητής νοημοσύνης.

Ο William Saunders, ερευνητής μηχανικός στο Σαν Φρανσίσκο, πιστεύει ότι αυτό το πρόβλημα είναι πλήρως επιλύσιμο εάν η OpenAI δώσει προτεραιότητα στην αντιμετώπισή του.

Η OpenAI έχει παραδεχτεί ότι εργάζεται συνεχώς για την ελαχιστοποίηση των φανταστικών λεπτομερειών και εκτιμά τα σχόλια από την ερευνητική κοινότητα.

Ωστόσο, πολλοί μηχανικοί εξακολουθούν να ισχυρίζονται ότι δεν έχουν ξαναδεί άλλο εργαλείο λήψης σημειώσεων με τεχνητή νοημοσύνη με τόσο υψηλό επίπεδο μυθοπλασίας όσο το Whisper./.

(TTXVN/Βιετνάμ+)

Πηγή: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp