Student erhält null Punkte wegen Fehler in KI-Test-App

Viele Universitäten in den USA nutzen Testanwendungen für künstliche Intelligenz (KI), um zu verhindern, dass Studierende KI zum Schreiben von Essays verwenden. Es gibt jedoch viele Fälle, in denen die Testtools fehlerhaft sind und die Studierenden null Punkte erhalten.

In einem konkreten Fall erzählte Moira Olmsted (24 Jahre), Studentin an der Central Methodist University (USA), laut der Nachrichtenagentur Bloomberg , dass sie eine Punktzahl von 0 erhalten habe, nachdem die KI-Testanwendung ihren Aufsatz als „KI-generierten Text“ bewertet hatte.

Die Missverständnisrate bei KI-Testanwendungen stieg von 1 % auf über 10 %.

Die Professorin sagte, die KI-Test-App habe ihre Texte zuvor markiert. Olmsted bestritt diesen Befund und sagte, ihre Texte seien „manipuliert“ worden, weil sie an einer Autismus-Spektrum-Störung leide, und nicht, weil sie von einer KI erstellt worden seien. Die Schule hob später ihr Ergebnis auf und bestand den Kurs.

In einem anderen Fall sagte Ken Sahib, ein amerikanischer Student, der in Italien aufgewachsen ist, er sei schockiert gewesen, als seine Arbeit in einem Computernetzwerkkurs am Berkeley College in New York City (USA) eine Null erhielt.

Der Professor erklärte: „Jedes Tool, das ich ausprobiert habe, lieferte das gleiche Ergebnis: KI hat diesen Aufsatz erstellt.“ Sahib behauptete jedoch, er habe seine Teenagerjahre in Italien studiert, wo Englisch nur seine Zweitsprache sei und sein Schreiben nicht so natürlich sei wie das eines Muttersprachlers. Die KI-Test-App habe ihm zudem eine falsche Bewertung gegeben. Nach dem Protest des Schülers änderte die Schule die Note des Aufsatzes.

Rund zwei Drittel der über 450 in den USA befragten Lehrer gaben an, regelmäßig KI-Prüf-Apps zu nutzen, wie aus einem Bericht des Center for Democracy and Technology vom März hervorgeht. Die Pädagogen geben an, dass diese Tools ihnen dabei helfen, festzustellen, ob KI Sätze, Absätze oder ganze Schülerarbeiten generiert hat.

Eine Reihe von Tools wie Turnitin, GPTZero und Copyleaks werden an vielen High Schools und Universitäten in den USA verwendet.

Technologieunternehmen behaupten, dass KI-Test-Apps eine Genauigkeit von bis zu 99 % erreichen. Bloomberg führte jedoch vor der Einführung von ChatGPT Ende 2022 einen Test mit 500 Essays durch. Die Ergebnisse zeigten, dass die Rate der KI-Test-Apps, die von Studenten verfasste Essays mit „KI-generierten Essays“ „verwechselten“, zwischen 1 % und über 10 % lag.

Angesichts der großen Zahl an Arbeiten, die jedes Jahr überprüft werden müssen, wirkt sich diese Fehlerquote stark auf die Psyche der Studierenden aus und kann sogar zu unnötigem Misstrauen und Spannungen zwischen Dozenten und Studierenden führen.

Insbesondere nachdem sie für einen „KI-generierten Artikel“ gerügt worden war, reagierte die Studentin Moira Olmsted so empfindlich, dass sie beim Schreiben ihres Aufsatzes die Videoaufzeichnungsfunktion ihres gesamten Computerbildschirms nutzte, um dies der Schule zu beweisen.

Viele Studierende in den USA geben an, dass sie mittlerweile mehr Zeit mit dem Schreiben von Essays verbringen, weil sie Sätze sorgfältig prüfen müssen, bei denen das Risiko besteht, dass sie vom Prüftool als „KI-Schreiben“ eingestuft werden.

Die Quillbot-App bewertet einen Artikel mit 43 % KI-generiertem Inhalt

Eine Studie der Stanford University aus dem Jahr 2023 ergab, dass eine KI-Test-App die Aufsätze amerikanischer Achtklässler „nahezu perfekt“ testete. Allerdings kennzeichnete die App die Hälfte der Aufsätze von Schülern, deren Zweitsprache Englisch war, fälschlicherweise als „KI-Text“.

Verwenden Sie KI-Test-Apps nicht als „Richter“

Angesichts dieser Situation stellen einige Schulen in den USA ihren Schülern KI-Prüftools zur Verfügung, mit denen sie ihre Texte vor der Abgabe selbst überprüfen können.

Darüber hinaus betonen Technologieunternehmen, dass Schulen KI-Test-Apps nur als unterstützende Tools betrachten sollten und nicht als „Richter“, die über die Aufsätze der Schüler urteilen.

Einige Studenten, die Zeit sparen möchten, sind sogar gezwungen, „AI-Humanizer“-Tools zu verwenden, die menschliche Texte automatisch bearbeiten oder umschreiben können, um KI-Testanwendungen zu bestehen.

Für einige Pädagogen und Schüler, Schulen und Dozenten wird der Missbrauch von KI-Testanwendungen den Lehr- und Lernprozess beeinträchtigen.

„KI wird Teil der Zukunft sein, ob es uns gefällt oder nicht“, bemerkt Adam Lloyd, Englischprofessor an der University of Maryland. „Es ist ein Fehler, KI als etwas zu betrachten, das wir aus dem Unterricht verbannen oder von dessen Nutzung wir die Studierenden abhalten müssen.“ Statt KI-Test-Apps zu verwenden, verlässt sich Lloyd auf seine Intuition. „Ich kenne die Schreibfähigkeiten meiner Studierenden gut. Wenn ich Zweifel habe, spreche ich offen darüber und beschuldige sie nicht vorschnell, KI für ihre Arbeiten zu verwenden“, sagt Lloyd.

Quelle: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm