Intelligence artificielle : le côté obscur de l'outil Whisper

L’utilisation de Whisper pour créer des sous-titres pour les malentendants est également problématique, car ils n’ont aucun moyen de détecter la désinformation cachée parmi les millions de mots générés.

Photo d'illustration. (Source : Voicegain)

À l'ère de l'intelligence artificielle (IA) qui devient un élément indispensable de la vie quotidienne, un outil appelé Whisper développé par OpenAI a attiré une grande attention grâce à sa capacité à prendre automatiquement des notes avec une « précision presque humaine ».

Mais derrière ces éloges, Whisper fait face à de vives critiques pour un défaut grave : sa capacité à s'autofictionner, c'est-à-dire à générer du texte ou même des déclarations que personne n'a jamais écrites.

Selon les ingénieurs et chercheurs en logiciel, les détails fictifs non seulement créent de la confusion, mais peuvent également contenir des commentaires racistes, un langage violent et des traitements médicaux irréalistes.

Bien qu’OpenAI ait averti que l’outil ne devrait pas être utilisé dans les « zones à haut risque », de nombreux établissements médicaux adoptent toujours activement Whisper pour enregistrer les consultations médecin-patient.

En fait, une étude récente a révélé que jusqu'à 80 % des enregistrements audio d'une enquête sur des réunions publiques contenaient ces détails fictifs. Un ingénieur en apprentissage automatique a également souligné que l'analyse de plus de 100 heures de transcriptions Whisper a révélé qu'environ 50 % d'entre elles contenaient de graves erreurs, ce qui soulève des inquiétudes quant à la fiabilité de cette technologie, de plus en plus utilisée.

Les experts avertissent que les erreurs peuvent entraîner des « conséquences vraiment graves », notamment dans le domaine médical.

Alondra Nelson, ancienne directrice du Bureau de la politique scientifique et technologique de la Maison Blanche, a souligné que personne ne souhaite un mauvais diagnostic et a appelé à des normes plus élevées dans l'application de cette technologie.

L’utilisation de Whisper pour créer des sous-titres pour les malentendants est également problématique, car ils n’ont aucun moyen de détecter la désinformation cachée parmi les millions de mots générés.

L’essor des textes fictifs a incité de nombreux experts, militants et anciens employés d’OpenAI à demander au gouvernement fédéral d’envisager de réglementer l’IA.

William Saunders, ingénieur de recherche à San Francisco, estime que ce problème est tout à fait résoluble si OpenAI donne la priorité à sa résolution.

OpenAI a admis qu’il travaille constamment à minimiser les détails fictifs et apprécie les commentaires de la communauté des chercheurs.

Cependant, de nombreux ingénieurs affirment encore qu'ils n'ont jamais vu un autre outil de prise de notes IA avec un niveau de fiction aussi élevé que Whisper./.

(TTXVN/Vietnam+)

Source : https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp