Intelligence artificielle : le côté obscur de l'outil Whisper

L’utilisation de Whisper pour créer des sous-titres pour les malentendants constitue également un problème sérieux, car ils n’ont aucun moyen de détecter les fausses informations cachées parmi les millions de mots générés.

Photo d'illustration. (Source : Voicegain)

À une époque où l'intelligence artificielle (IA) devient un élément indispensable de la vie quotidienne, un outil appelé Whisper développé par OpenAI a attiré une grande attention grâce à sa capacité à prendre automatiquement des notes avec une « précision presque humaine ».

Mais derrière ces éloges, Whisper fait face à de vives critiques pour un défaut grave : sa capacité à fabriquer automatiquement des informations, c'est-à-dire à générer du texte ou même des déclarations que personne n'a jamais écrites.

Selon les ingénieurs et chercheurs en logiciel, les détails fictifs non seulement créent de la confusion, mais peuvent également contenir des commentaires racistes, un langage violent et des traitements médicaux irréalistes.

Bien qu’OpenAI ait averti que l’outil ne devrait pas être utilisé dans les « zones à haut risque », de nombreux établissements médicaux adoptent toujours activement Whisper pour enregistrer les consultations médecin-patient.

En fait, une étude récente a révélé que jusqu’à 80 % des enregistrements audio d’une enquête sur des réunions publiques contenaient ces détails fictifs. Un ingénieur en apprentissage automatique a également souligné que l’analyse de plus de 100 heures de transcriptions de Whisper a montré qu’environ 50 % d’entre elles contenaient de graves erreurs. Cela soulève des inquiétudes quant à la fiabilité de cette technologie, de plus en plus utilisée.

Les experts avertissent que les erreurs peuvent avoir des « conséquences vraiment graves », notamment dans le domaine médical. B

Alondra Nelson, ancienne directrice du Bureau de la politique scientifique et technologique de la Maison Blanche, a souligné que personne ne souhaite un mauvais diagnostic et a appelé à des normes plus élevées dans l'application de cette technologie.

L’utilisation de Whisper pour créer des sous-titres pour les malentendants constitue également un problème sérieux, car ils n’ont aucun moyen de détecter les fausses informations cachées parmi les millions de mots générés.

L’essor des textes fictifs a incité de nombreux experts, militants et anciens employés d’OpenAI à demander au gouvernement fédéral d’envisager de réglementer l’IA.

William Saunders, ingénieur de recherche à San Francisco, estime que ce problème est tout à fait résoluble si OpenAI donne la priorité à son traitement.

OpenAI a admis qu'il travaillait constamment à minimiser les détails fictifs et appréciait les commentaires de la communauté de recherche.

Cependant, de nombreux ingénieurs affirment encore qu'ils n'ont jamais vu un autre outil de prise de notes d'IA avec un niveau de fiction aussi élevé que Whisper./.

(Agence de presse vietnamienne/Vietnam+)

Source : https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp