Inteligência Artificial: O Lado Negro da Ferramenta Whisper

O uso do Whisper para criar legendas para deficientes auditivos também é problemático, pois eles não têm como detectar informações incorretas escondidas entre os milhões de palavras geradas.

Na era em que a Inteligência Artificial (IA) se tornou uma parte indispensável da vida diária, uma ferramenta chamada Whisper, desenvolvida pela OpenAI, atraiu grande atenção graças à sua capacidade de fazer anotações automaticamente com uma "precisão quase humana".

Por trás da aclamação, no entanto, o Whisper está enfrentando duras críticas por uma falha grave: sua capacidade de autoficção, ou seja, de gerar texto ou mesmo declarações que ninguém jamais escreveu.

De acordo com engenheiros de software e pesquisadores, detalhes fictícios não apenas causam confusão, mas também podem conter comentários racistas, linguagem violenta e tratamentos médicos irrealistas.

Embora a OpenAI tenha alertado que a ferramenta não deve ser usada em “áreas de alto risco”, muitas instalações médicas ainda estão adotando ativamente o Whisper para registrar consultas entre médicos e pacientes.

De fato, um estudo recente descobriu que até 80% das gravações de áudio em uma pesquisa sobre reuniões públicas continham esses detalhes fictícios. Um engenheiro de aprendizado de máquina também apontou que a análise de mais de 100 horas de transcrições do Whisper revelou que cerca de 50% delas continham erros graves, levantando preocupações sobre a confiabilidade da tecnologia, que está sendo cada vez mais utilizada.

Especialistas alertam que erros podem levar a "consequências realmente sérias", especialmente na área médica.

Alondra Nelson, ex-diretora do Escritório de Política Científica e Tecnológica da Casa Branca, enfatizou que ninguém quer um diagnóstico errado e pediu padrões mais elevados na aplicação dessa tecnologia.

O uso do Whisper para criar legendas para deficientes auditivos também é problemático, pois eles não têm como detectar informações incorretas escondidas entre os milhões de palavras geradas.

O aumento de textos fictícios levou muitos especialistas, ativistas e ex-funcionários da OpenAI a pedir ao governo federal que considere regulamentar a IA.

William Saunders, um engenheiro de pesquisa em São Francisco, acredita que esse problema pode ser completamente resolvido se a OpenAI priorizar sua solução.

A OpenAI admitiu que está constantemente trabalhando para minimizar detalhes fictícios e agradece o feedback da comunidade de pesquisa.

No entanto, muitos engenheiros ainda afirmam que nunca viram outra ferramenta de anotações de IA com um nível de ficção tão alto quanto o Whisper./.

(TTXVN/Vietnã+)

[anúncio_2]
Fonte: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp