Ferramentas de IA para conversão de fala em texto também 'deturpam'

(CLO) A ferramenta de conversão de fala em texto Whisper da OpenAI é anunciada como sendo "robusta e precisa quase ao nível humano", mas tem uma grande desvantagem: é propensa a fabricar trechos de texto ou até mesmo frases inteiras!

Alguns dos textos produzidos, conhecidos na indústria como alucinógenos, podem incluir comentários raciais, violência e até mesmo tratamentos médicos imaginários, dizem especialistas.

Especialistas dizem que tais invenções são sérias porque o Whisper é usado em uma ampla gama de indústrias ao redor do mundo para traduzir e transcrever entrevistas, gerar texto e legendar vídeos.

O mais preocupante é que os centros médicos estão usando ferramentas baseadas no Whisper para registrar consultas entre pacientes e médicos, apesar do aviso da OpenAI de que a ferramenta não deve ser usada em "áreas de alto risco".

Frases que começam com "#Verdade Fundamental" são o que realmente foi dito, frases que começam com "#texto" são o que Whisper transcreveu. Foto: AP

Pesquisadores e engenheiros afirmam que o Whisper frequentemente produz alucinações durante o uso. Por exemplo, um pesquisador da Universidade de Michigan afirmou ter encontrado alucinações em oito de cada 10 gravações que examinou.

Um engenheiro de aprendizado de máquina inicial encontrou a manipulação em cerca de metade das mais de 100 horas de transcrições do Whisper que analisou. Um terceiro desenvolvedor disse ter encontrado a ilusão em quase todas as 26.000 transcrições criadas com o Whisper.

A ilusão persiste mesmo em amostras de áudio curtas e bem gravadas. Um estudo recente realizado por cientistas da computação encontrou 187 distorções em mais de 13.000 clipes de áudio nítidos que eles examinaram.

Essa tendência resultaria em dezenas de milhares de erros em milhões de gravações, disseram os pesquisadores.

Esses erros podem ter “consequências realmente sérias”, especialmente em um ambiente hospitalar, disse Alondra Nelson, professora da Escola de Ciências Sociais do Instituto de Estudos Avançados.

"Ninguém quer ser diagnosticado erroneamente. É preciso haver uma barreira maior", disse Nelson.

As professoras Allison Koenecke e Mona Sloane, da Universidade Cornell, da Universidade da Virgínia, examinaram milhares de trechos curtos que recuperaram do TalkBank, um arquivo de pesquisa hospedado na Universidade Carnegie Mellon. Elas determinaram que quase 40% das alucinações eram prejudiciais ou perturbadoras, pois o falante poderia ser mal interpretado ou mal representado.

Um locutor em uma gravação descreveu "duas outras garotas e uma mulher", mas Whisper inventou um comentário racial adicional, acrescentando "duas outras garotas e uma mulher, hum, negra".

Em outra transcrição, Whisper inventou um medicamento inexistente chamado "antibióticos com atividade aumentada".

Enquanto a maioria dos desenvolvedores assume que ferramentas de transcrição podem conter erros de ortografia ou outros erros, engenheiros e pesquisadores dizem que nunca viram uma ferramenta de transcrição com tecnologia de IA tão alucinógena quanto o Whisper.

A ferramenta está integrada a diversas versões do chatbot principal da OpenAI, o ChatGPT, e é um serviço integrado às plataformas de computação em nuvem da Oracle e da Microsoft, atendendo milhares de empresas em todo o mundo. Também é usada para transcrever e traduzir textos para diversos idiomas.

Ngoc Anh (de acordo com a AP)

Fonte: https://www.congluan.vn/cong-cu-chuyen-giong-noi-thanh-van-ban-ai-cung-co-the-xuyen-tac-post319008.html