Inteligența artificială: partea întunecată a instrumentului Whisper

Utilizarea Whisper pentru a crea subtitrări pentru persoanele cu deficiențe de auz este, de asemenea, problematică, deoarece nu au nicio modalitate de a detecta informațiile greșite ascunse printre milioanele de cuvinte generate.

Fotografie ilustrativă. (Sursa: Voicegain)

În era în care Inteligența Artificială (IA) devine o parte indispensabilă a vieții de zi cu zi, un instrument numit Whisper, dezvoltat de OpenAI, a atras o mare atenție datorită capacității sale de a lua notițe automat cu o precizie aproape „umană”.

În spatele aprecierii, însă, Whisper se confruntă cu critici aspre pentru o problemă gravă: capacitatea sa de a se autoficționa, adică de a genera text sau chiar afirmații pe care nimeni nu le-a scris vreodată.

Potrivit inginerilor de software și cercetătorilor, detaliile fictive nu numai că provoacă confuzie, dar pot conține și comentarii rasiste, limbaj violent și tratamente medicale nerealiste.

Deși OpenAI a avertizat că instrumentul nu ar trebui utilizat în „zone cu risc ridicat”, multe unități medicale încă adoptă activ Whisper pentru a înregistra consultațiile medic-pacient.

De fapt, un studiu recent a constatat că până la 80% din înregistrările audio dintr-un sondaj al întâlnirilor publice conțineau aceste detalii fictive. Un inginer de învățare automată a subliniat, de asemenea, că analiza a peste 100 de ore de transcrieri Whisper a relevat că aproximativ 50% dintre acestea conțineau erori grave, ceea ce ridică îngrijorări cu privire la fiabilitatea tehnologiei, care este din ce în ce mai utilizată.

Experții avertizează că erorile pot duce la „consecințe cu adevărat grave”, mai ales în domeniul medical.

Alondra Nelson, fosta directoare a Biroului pentru Politici Științifice și Tehnologice al Casei Albe, a subliniat că nimeni nu își dorește un diagnostic greșit și a cerut standarde mai ridicate în aplicarea acestei tehnologii.

Utilizarea Whisper pentru a crea subtitrări pentru persoanele cu deficiențe de auz este, de asemenea, problematică, deoarece nu au nicio modalitate de a detecta informațiile greșite ascunse printre milioanele de cuvinte generate.

Creșterea numărului de texte fictive a determinat mulți experți, activiști și foști angajați OpenAI să solicite guvernului federal să ia în considerare reglementarea inteligenței artificiale.

William Saunders, inginer cercetător din San Francisco, consideră că această problemă este complet rezolvabilă dacă OpenAI acordă prioritate gestionării ei.

OpenAI a recunoscut că lucrează constant pentru a minimiza detaliile fictive și apreciază feedback-ul din partea comunității de cercetare.

Cu toate acestea, mulți ingineri susțin în continuare că nu au mai văzut niciodată un alt instrument de luare de notițe bazat pe inteligență artificială cu un nivel de ficțiune la fel de ridicat ca Whisper./.

(TTXVN/Vietnam+)

Sursă: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp