Muitas universidades nos EUA usam aplicativos de testes de inteligência artificial (IA) para impedir que os alunos usem IA para escrever redações. No entanto, há muitos casos em que as ferramentas de teste estão incorretas, fazendo com que os alunos recebam zero pontos.
Em um caso específico, Moira Olmsted (24 anos), aluna da Central Methodist University (EUA), contou a história de ter recebido nota 0 depois que o aplicativo de teste de IA avaliou sua redação como "escrita gerada por IA", de acordo com a agência de notícias Bloomberg .
Taxa de “mal-entendidos” em aplicações de testes de IA de 1% para mais de 10%
A professora afirmou que o aplicativo de teste de IA já havia sinalizado sua escrita. Olmsted contestou a descoberta, afirmando que sua escrita foi "manipulada" porque ela tinha transtorno do espectro autista, e não porque a escrita foi gerada por IA. Posteriormente, a escola anulou sua nota e aprovou a disciplina.
Em outro caso, Ken Sahib, um estudante americano que cresceu na Itália, disse que ficou chocado quando seu artigo recebeu nota zero em um curso de rede de computadores no Berkeley College, na cidade de Nova York (EUA).
O professor explicou: "Todas as ferramentas que testei deram o mesmo resultado: a IA gerou esta redação." No entanto, Sahib alegou que passou a adolescência estudando na Itália, onde o inglês era apenas uma segunda língua e sua escrita não seria tão natural quanto a de um falante nativo, e que o aplicativo de teste de IA lhe deu uma avaliação incorreta. Após o aluno protestar, a escola alterou a nota da redação.
Cerca de dois terços dos mais de 450 professores entrevistados nos Estados Unidos afirmaram usar regularmente aplicativos de verificação de IA, de acordo com um relatório de março do Centro para Democracia e Tecnologia. Educadores afirmam que essas ferramentas os ajudam a determinar se a IA gerou frases, parágrafos ou trabalhos acadêmicos completos.
Uma série de ferramentas como Turnitin, GPTZero e Copyleaks estão sendo usadas em muitas escolas de ensino médio e universidades nos EUA.
Empresas de tecnologia afirmam que aplicativos de teste de IA têm até 99% de precisão. No entanto, a Bloomberg realizou um teste com 500 redações antes do lançamento do ChatGPT no final de 2022. Os resultados mostraram que a taxa de aplicativos de teste de IA que "confundem" redações escritas por alunos com "redações geradas por IA" variou de 1% a mais de 10%.
Com essa taxa de erro, considerando o grande número de trabalhos que precisam ser verificados a cada ano, isso afeta muito a psicologia dos alunos, criando até mesmo suspeitas e tensões desnecessárias entre professores e alunos.
Especificamente, após ser sinalizada por um "artigo gerado por IA", a aluna Moira Olmsted ficou tão sensível que usou a função de gravação de vídeo de toda a tela do computador enquanto escrevia sua redação para provar isso à escola.
Muitos estudantes nos EUA dizem que agora passam mais tempo escrevendo redações porque precisam verificar cuidadosamente frases que correm o risco de serem rotuladas como "escrita de IA" pela ferramenta de verificação.
O aplicativo Quillbot avalia um artigo como tendo 43% de conteúdo gerado por IA
Um estudo de 2023 da Universidade Stanford descobriu que um aplicativo de teste de IA era "quase perfeito" na avaliação de redações de alunos americanos do oitavo ano. No entanto, o aplicativo rotulou incorretamente metade das redações de alunos cuja segunda língua era o inglês como "escrita de IA".
Não use aplicativos de teste de IA como "juízes"
Diante dessa situação, algumas escolas nos EUA fornecem aos alunos ferramentas de verificação de IA para que eles mesmos verifiquem seus trabalhos antes de enviá-los.
Além disso, as empresas de tecnologia enfatizam que as escolas devem ver os aplicativos de testes de IA apenas como ferramentas de suporte, não como “juízes” para julgar as redações dos alunos.
Alguns alunos que querem economizar tempo são até forçados a usar ferramentas de “humanização de IA” — que podem editar automaticamente a escrita humana ou reescrevê-la para passar em testes de IA.
Para alguns educadores e alunos, escolas e professores que abusam de aplicativos de testes de IA afetarão o processo de ensino e aprendizagem.
“A IA fará parte do futuro, gostemos ou não”, observa Adam Lloyd, professor de inglês da Universidade de Maryland. “É um erro ver a IA como algo que precisamos eliminar da sala de aula ou desencorajar os alunos a usá-la.” Em vez de usar aplicativos de teste de IA, Lloyd confia na intuição. “Conheço bem a capacidade de escrita dos meus alunos. Se tenho alguma dúvida, discuto-a abertamente e não me apresso em acusar os alunos de usar IA para escrever seus trabalhos”, diz Lloyd.
Fonte: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm
Comentário (0)