Aluno recebe nota zero devido a erro no aplicativo de teste de IA

Muitas universidades nos EUA utilizam aplicativos de inteligência artificial (IA) para evitar que os alunos usem IA na redação de seus trabalhos. No entanto, há muitos casos em que as ferramentas de avaliação falham, resultando em notas zero para os alunos.

Em um caso específico, Moira Olmsted (24 anos), estudante da Central Methodist University (EUA), relatou ter recebido nota zero após o aplicativo de avaliação por IA classificar sua redação como "um artigo gerado por IA", segundo a agência de notícias Bloomberg .

A taxa de "incompreensão" em aplicações de teste de IA varia de 1% a mais de 10%.

A professora alegou que um teste baseado em IA havia identificado problemas na escrita dela. Olmsted contestou a conclusão, afirmando que a escrita dela era "manipulada" porque ela tem transtorno do espectro autista, e não porque o texto foi gerado por IA. Posteriormente, a escola anulou a nota e ela foi aprovada na disciplina.

Em outro caso, Ken Sahib, um estudante americano que cresceu na Itália, disse ter ficado chocado ao receber nota zero em um trabalho de redes de computadores na Berkeley College, em Nova York (EUA).

O professor explicou: "Todas as ferramentas que testei deram o mesmo resultado: a IA gerou esta redação." No entanto, Sahib afirmou que passou a adolescência estudando na Itália, então o inglês era apenas uma segunda língua e sua escrita não seria tão natural quanto a de um falante nativo, e também alegou que o aplicativo de teste de IA deu uma avaliação incorreta. Após o protesto do aluno, a escola alterou a nota da redação.

Cerca de dois terços dos mais de 450 professores entrevistados nos EUA disseram usar regularmente aplicativos de teste de IA, de acordo com um relatório do Centro para a Democracia e a Tecnologia (EUA) divulgado em março. Educadores afirmam que essas ferramentas os ajudam a determinar se a IA gerou frases, parágrafos ou trabalhos inteiros dos alunos.

Diversas ferramentas, como Turnitin, GPTZero e Copyleaks, estão sendo utilizadas em muitas escolas de ensino médio e universidades nos Estados Unidos.

Empresas de tecnologia afirmam que aplicativos de teste com IA têm uma precisão de até 99%. No entanto, a Bloomberg realizou um teste com 500 redações antes do lançamento do ChatGPT no final de 2022. Os resultados mostraram que a taxa de aplicativos de teste com IA que "confundiram" redações escritas por alunos com "redações geradas por IA" variou de 1% a mais de 10%.

Com essa taxa de erros, considerando o grande número de trabalhos que precisam ser corrigidos a cada ano, isso afeta muito o psicológico dos alunos, chegando a criar suspeitas e tensões desnecessárias entre professores e alunos.

Especificamente, após ser sinalizada por um "artigo gerado por IA", a estudante Moira Olmsted ficou tão indignada que usou a função de gravação de vídeo da tela inteira do computador enquanto escrevia sua redação para provar isso à escola.

Muitos estudantes nos EUA dizem que agora passam mais tempo escrevendo redações porque precisam verificar cuidadosamente as frases que correm o risco de serem rotuladas como "escrita de IA" pela ferramenta de verificação.

O aplicativo Quillbot classifica um artigo como tendo 43% de conteúdo gerado por IA.

Um estudo de 2023 da Universidade de Stanford descobriu que um aplicativo de teste de IA era "quase perfeito" na avaliação de redações de alunos americanos do oitavo ano. No entanto, o aplicativo classificou incorretamente metade das redações de alunos cuja segunda língua era o inglês como "escrita de IA".

Aplicativos de teste de IA não devem ser usados ​​como 'juízes'.

Diante dessa realidade, algumas escolas nos EUA fornecem aos alunos ferramentas de verificação por IA para que eles mesmos corrijam seus trabalhos antes de enviá-los.

Além disso, as empresas de tecnologia enfatizam que as escolas devem considerar os aplicativos de teste de IA apenas como ferramentas de apoio, e não como "juízes" para avaliar as redações dos alunos.

Alguns estudantes que querem economizar tempo são até obrigados a usar ferramentas de "humanização por IA" - que podem editar automaticamente a escrita humana ou reescrevê-la para passar em testes de IA.

Para alguns educadores e alunos, o uso abusivo de aplicativos de IA para testes por escolas e professores afetará o processo de ensino e aprendizagem.

“A IA fará parte do futuro, quer queiramos quer não”, observa Adam Lloyd, professor de inglês na Universidade de Maryland. “É um erro encarar a IA como algo que precisamos eliminar da sala de aula ou desencorajar os alunos a usá-la.” Em vez de usar aplicativos de teste de IA, Lloyd confia na sua intuição. “Conheço as capacidades de escrita dos meus alunos. Se tenho alguma dúvida, discuto-a abertamente e não me apresso a acusar os alunos de usar IA para escrever os seus trabalhos”, afirma Lloyd.

Fonte: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm