Inteligencia artificial: el lado oscuro de la herramienta del susurro

El uso de Whisper para crear subtítulos para personas con problemas de audición también es un problema grave, ya que no tienen forma de detectar información falsa oculta entre los millones de palabras generadas.

Foto ilustrativa. (Fuente: Voicegain)

En una era en la que la Inteligencia Artificial (IA) se está convirtiendo en una parte indispensable de la vida cotidiana, una herramienta llamada Whisper desarrollada por OpenAI ha atraído gran atención gracias a su capacidad de tomar notas automáticamente con una precisión casi "humana".

Sin embargo, detrás de sus elogios, Whisper se enfrenta a duras críticas por un grave defecto: su capacidad de fabricar información automáticamente, es decir, generar texto o incluso declaraciones que nadie ha escrito nunca.

Según los ingenieros de software e investigadores, los detalles ficticios no sólo causan confusión sino que también pueden contener comentarios racistas, lenguaje violento y tratamientos médicos poco realistas.

Aunque OpenAI ha advertido que la herramienta no debe utilizarse en “zonas de alto riesgo”, muchos centros médicos todavía están adoptando activamente Whisper para registrar las consultas médico-paciente.

De hecho, un estudio reciente reveló que hasta el 80 % de las grabaciones de una encuesta sobre reuniones públicas contenían estos detalles ficticios. Un ingeniero de aprendizaje automático también señaló que un análisis de más de 100 horas de transcripciones de Whisper reveló que aproximadamente el 50 % contenía errores graves, lo que genera dudas sobre la fiabilidad de esta tecnología, cuyo uso es cada vez mayor.

Los expertos advierten que los errores pueden tener “consecuencias realmente graves”, especialmente en el ámbito médico.

Alondra Nelson, ex directora de la Oficina de Política Científica y Tecnológica de la Casa Blanca, subrayó que nadie quiere un diagnóstico erróneo y pidió estándares más altos en la aplicación de esta tecnología.

El uso de Whisper para crear subtítulos para personas con problemas de audición también es un problema grave, ya que no tienen forma de detectar información falsa oculta entre los millones de palabras generadas.

El auge de los textos de ficción ha llevado a muchos expertos, activistas y ex empleados de OpenAI a pedir al gobierno federal que considere regular la IA.

William Saunders, ingeniero de investigación en San Francisco, cree que este problema tiene solución total si OpenAI prioriza su procesamiento.

OpenAI ha admitido que trabaja constantemente para minimizar los detalles ficticios y agradece los comentarios de la comunidad de investigación.

Sin embargo, muchos ingenieros todavía afirman que nunca han visto otra herramienta de toma de notas con inteligencia artificial con un nivel de ficción tan alto como Whisper.

(Agencia de Noticias de Vietnam/Vietnam+)

Fuente: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp