Student får 0 poäng på grund av fel i AI-testapp

Många universitet i USA använder testapplikationer för artificiell intelligens (AI) för att hindra studenter från att använda AI för att skriva uppsatser. Det finns dock många fall där testverktygen är felaktiga, vilket leder till att studenterna får noll poäng.

I ett specifikt fall berättade Moira Olmsted (24 år), en student vid Central Methodist University (USA), hur hon fick poängen 0 efter att en AI-testansökan utvärderade hennes uppsats som "en AI-genererad artikel", enligt nyhetsbyrån Bloomberg .

Andelen missförstånd i AI-testapplikationer varierar från 1 % till mer än 10 %.

Professorn hävdade att ett AI-baserat test tidigare hade flaggat hennes skrivande. Olmsted bestred resultaten och hävdade att hennes skrivande var "konstruerat" eftersom hon har autismspektrumstörning, inte för att skrivandet genererades av AI. Skolan upphävde senare hennes resultat och godkände kursen.

I ett annat fall sa Ken Sahib, en amerikansk student som växte upp i Italien, att han blev chockad när hans uppsats fick noll i en kurs i datanätverk vid Berkeley College i New York (USA).

Föreläsaren förklarade: "Varje verktyg jag provade gav samma resultat: AI genererade den här uppsatsen." Sahib hävdade dock att han tillbringade sina tonårsår med att studera i Italien, så engelska var bara ett andraspråk och hans skrivande skulle inte vara lika naturligt som för en modersmålstalare, och hävdade också att AI-testappen gav en felaktig bedömning. Efter att den manliga studenten protesterat ändrade skolan uppsatsens betyg.

Ungefär två tredjedelar av fler än 450 lärare som deltog i undersökningen i USA sa att de regelbundet använder AI-testappar, enligt en rapport från Center for Democracy and Technology (USA) i mars. Lärare säger att dessa verktyg hjälper dem att avgöra om AI har genererat meningar, stycken eller hela elevuppsatser.

En serie verktyg som Turnitin, GPTZero och Copyleaks används på många gymnasieskolor och universitet i USA.

Teknikföretag hävdar att AI-testappar är upp till 99 % exakta. Bloomberg genomförde dock ett test med 500 uppsatser innan ChatGPT lanserades i slutet av 2022. Resultaten visade att andelen AI-testappar som "missförstod" studentskrivna uppsatser för "AI-genererade uppsatser" varierade från 1 % till mer än 10 %.

Med denna felfrekvens, och med tanke på det stora antalet uppsatser som behöver granskas varje år, påverkar detta studenternas psykologi i hög grad och skapar till och med onödig misstänksamhet och spänningar mellan föreläsare och studenter.

Mer specifikt, efter att ha blivit flaggad för en "AI-genererad artikel", var den kvinnliga studenten Moira Olmsted så känslig att hon använde videoinspelningsfunktionen på hela sin datorskärm medan hon skrev sin uppsats för att bevisa det för skolan.

Många studenter i USA säger att de nu lägger mer tid på att skriva uppsatser eftersom de noggrant måste kontrollera meningar som riskerar att stämplas som "AI-skrivande" av kontrollverktyget.

Quillbot-appen bedömer en artikel som att ha 43 % AI-genererat innehåll

En studie från 2023 utförd av Stanford University fann att en AI-testapp var "nästan perfekt" på att testa uppsatser från amerikanskfödda åttondeklassare. Appen märkte dock felaktigt hälften av uppsatserna från elever vars andraspråk var engelska som "AI-skrivning".

AI-testappar bör inte användas som "domare"

Inför den verkligheten förser vissa skolor i USA eleverna med AI-kontrollverktyg för att själva kontrollera sina uppsatser innan de lämnas in.

Dessutom betonar teknikföretag att skolor endast bör se AI-testappar som stödverktyg, inte som ”domare” för att bedöma elevers uppsatser.

Vissa studenter som vill spara tid tvingas till och med använda verktyg för ”AI-humanisering” – som automatiskt kan redigera mänsklig text eller skriva om den för att klara AI-testapplikationer.

För vissa lärare och elever kommer missbruk av AI-testapplikationer i skolor och lärare att påverka undervisnings- och inlärningsprocessen.

”AI kommer att bli en del av framtiden, vare sig vi vill det eller inte”, konstaterar Adam Lloyd, professor i engelska vid University of Maryland. ”Det är ett misstag att se AI som något vi behöver eliminera från klassrummet eller avskräcka studenter från att använda.” Istället för att använda AI-testappar förlitar sig Lloyd på sin intuition. ”Jag känner till mina studenters skrivförmåga. Om jag har några tvivel diskuterar jag dem öppet och rusar inte till att anklaga studenter för att använda AI för att skriva sina uppsatser”, säger Lloyd.

Källa: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm