Student får null poeng på grunn av feil i AI-testapp

Mange universiteter i USA bruker testprogrammer for kunstig intelligens (KI) for å hindre studenter i å bruke KI til å skrive essays. Det er imidlertid mange tilfeller der testverktøyene er feil, noe som fører til at studentene får null poeng.

I et konkret tilfelle fortalte Moira Olmsted (24 år), en student ved Central Methodist University (USA), historien om å ha fått poengsummen 0 etter at en søknad om AI-testing vurderte essayet hennes som «AI-generert skriving», ifølge nyhetsbyrået Bloomberg .

«Misforståelsesrate» for AI-testapplikasjoner fra 1 % til over 10 %

Professoren sa at AI-testappen tidligere hadde flagget skrivingen hennes. Olmsted bestred funnet og sa at skrivingen hennes var «konstruert» fordi hun hadde autismespekterforstyrrelse, ikke fordi skrivingen var generert av AI. Skolen opphevet senere karakteren hennes og bestod kurset.

I et annet tilfelle sa Ken Sahib, en amerikansk student som vokste opp i Italia, at han ble sjokkert da oppgaven hans fikk null i et kurs i datanettverk ved Berkeley College i New York City (USA).

Professoren forklarte: «Alle verktøy jeg prøvde ga samme resultat: AI genererte dette essayet.» Sahib hevdet imidlertid at han tilbrakte tenårene sine med å studere i Italia, hvor engelsk bare var et andrespråk og skrivingen hans ikke ville være like naturlig som en morsmålstalende, og at AI-testappen ga ham en feil vurdering. Etter at studenten protesterte, endret skolen karakteren på essayet.

Omtrent to tredjedeler av mer enn 450 lærere som ble spurt i USA sa at de regelmessig bruker AI-sjekkapper, ifølge en rapport fra mars fra Center for Democracy and Technology. Lærere sier at disse verktøyene hjelper dem med å avgjøre om AI har generert setninger, avsnitt eller hele elevoppgaver.

En rekke verktøy som Turnitin, GPTZero og Copyleaks brukes på mange videregående skoler og universiteter i USA.

Teknologiselskaper hevder at AI-testapper er opptil 99 % nøyaktige. Bloomberg utførte imidlertid en test med 500 essays før ChatGPT ble lansert sent i 2022. Resultatene viste at andelen AI-testapper som «forvekslet» studentskrevne essays med «AI-genererte essays» varierte fra 1 % til mer enn 10 %.

Med denne feilraten, tatt i betraktning det store antallet oppgaver som må kontrolleres hvert år, påvirker dette studentenes psykologi i stor grad, og skaper til og med unødvendig mistenksomhet og spenning mellom forelesere og studenter.

Mer spesifikt, etter å ha blitt flagget for en «AI-generert artikkel», var den kvinnelige studenten Moira Olmsted så følsom at hun brukte videoopptaksfunksjonen på hele dataskjermen mens hun skrev essayet sitt for å bevise det for skolen.

Mange studenter i USA sier at de nå bruker mer tid på å skrive essays fordi de må nøye sjekke setninger som risikerer å bli stemplet som «AI-skriving» av kontrollverktøyet.

Quillbot-appen vurderer en artikkel til å ha 43 % AI-generert innhold

En studie fra Stanford University i 2023 fant at en AI-testapp var «nesten perfekt» til å teste essayene til amerikanskfødte åttendeklassinger. Appen merket imidlertid feilaktig halvparten av essayene fra elever med engelsk som andrespråk som «AI-skriving».

Ikke bruk AI-testapper som «dommere»

Stilt overfor denne situasjonen gir noen skoler i USA elevene verktøy for AI-kontroll slik at de kan selvsjekke tekstene sine før de leverer dem.

I tillegg understreker teknologiselskaper at skoler kun bør se på AI-testapper som støtteverktøy, ikke som «dommere» som skal dømme elevenes essays.

Noen studenter som ønsker å spare tid, blir til og med tvunget til å bruke «AI-humaniseringsverktøy» – som automatisk kan redigere menneskelig skrift eller omskrive den for å bestå AI-testapplikasjoner.

For noen lærere og elever vil skoler og forelesere som misbruker AI-testapplikasjoner påvirke undervisnings- og læringsprosessen.

«KI kommer til å bli en del av fremtiden, enten vi liker det eller ikke», bemerker Adam Lloyd, en engelskprofessor ved University of Maryland. «Det er en feil å se på KI som noe vi må eliminere fra klasserommet eller fraråde studentene å bruke.» I stedet for å bruke AI-testapper, stoler Lloyd på intuisjonen sin. «Jeg kjenner studentenes skriveferdigheter godt. Hvis jeg er i tvil, diskuterer jeg dem åpent og forhaster meg ikke med å anklage studentene for å bruke KI til å skrive oppgavene sine», sier Lloyd.

Kilde: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm