Student erhält 0 Punkte aufgrund eines Fehlers in der KI-Test-App

Viele Universitäten in den USA nutzen Testanwendungen für künstliche Intelligenz (KI), um zu verhindern, dass Studierende KI zum Schreiben von Essays verwenden. Es gibt jedoch viele Fälle, in denen die Testtools fehlerhaft sind und die Studierenden null Punkte erhalten.

In einem konkreten Fall erzählte Moira Olmsted (24 Jahre), Studentin an der Central Methodist University (USA), die Geschichte, dass sie laut der Nachrichtenagentur Bloomberg eine Punktzahl von 0 erhalten habe, nachdem die KI-Testanwendung ihren Aufsatz als „einen von KI generierten Artikel“ bewertet hatte.

Die Rate der „Missverständnisse“ bei KI-Testanwendungen liegt zwischen 1 % und über 10 %

Die Professorin behauptete, ihre Texte seien zuvor in einem KI-basierten Test negativ bewertet worden. Olmsted bestritt die Ergebnisse und behauptete, ihre Texte seien „manipuliert“ worden, weil sie an einer Autismus-Spektrum-Störung leide, und nicht, weil sie von einer KI erstellt worden seien. Die Hochschule hob später ihr Ergebnis auf und bestand den Kurs.

In einem anderen Fall sagte Ken Sahib, ein amerikanischer Student, der in Italien aufgewachsen ist, er sei schockiert gewesen, als seine Arbeit in einem Computernetzwerkkurs am Berkeley College in New York City (USA) eine Null erhielt.

Der Dozent erklärte: „Alle Tools, die ich ausprobiert habe, lieferten dasselbe Ergebnis: Dieser Aufsatz wurde von einer KI erstellt.“ Sahib behauptete jedoch, er habe seine Teenagerjahre in Italien studiert, daher sei Englisch nur seine Zweitsprache und sein Schreiben sei nicht so natürlich wie das eines Muttersprachlers. Außerdem behauptete er, die KI-Test-App habe eine falsche Bewertung abgegeben. Nach dem Protest des Schülers änderte die Schule die Note des Aufsatzes.

Rund zwei Drittel der über 450 befragten Lehrer in den USA gaben an, regelmäßig KI-Test-Apps zu nutzen, wie aus einem Bericht des Center for Democracy and Technology (USA) vom März hervorgeht. Die Pädagogen geben an, dass diese Tools ihnen dabei helfen, festzustellen, ob KI Sätze, Absätze oder ganze Schülerarbeiten generiert hat.

Eine Reihe von Tools wie Turnitin, GPTZero und Copyleaks werden an vielen High Schools und Universitäten in den USA verwendet.

Technologieunternehmen behaupten, dass KI-Test-Apps eine Genauigkeit von bis zu 99 % erreichen. Bloomberg führte jedoch vor der Einführung von ChatGPT Ende 2022 einen Test mit 500 Essays durch. Die Ergebnisse zeigten, dass die Rate der KI-Test-Apps, die von Studenten verfasste Essays mit „KI-generierten Essays“ „verwechselten“, zwischen 1 % und über 10 % lag.

Angesichts der großen Zahl an Arbeiten, die jedes Jahr überprüft werden müssen, wirkt sich diese Fehlerquote stark auf die Psyche der Studierenden aus und kann sogar zu unnötigem Misstrauen und Spannungen zwischen Dozenten und Studierenden führen.

Insbesondere nachdem sie für einen „KI-generierten Artikel“ gerügt worden war, reagierte die Studentin Moira Olmsted so empfindlich, dass sie beim Schreiben ihres Aufsatzes die Videoaufzeichnungsfunktion ihres gesamten Computerbildschirms nutzte, um dies der Schule zu beweisen.

Viele Studierende in den USA geben an, dass sie mittlerweile mehr Zeit mit dem Schreiben von Essays verbringen, weil sie Sätze sorgfältig prüfen müssen, bei denen das Risiko besteht, dass sie vom Prüftool als „KI-Schreiben“ eingestuft werden.

Die Quillbot-App bewertet einen Artikel mit 43 % KI-generiertem Inhalt

Eine Studie der Stanford University aus dem Jahr 2023 ergab, dass eine KI-Test-App die Aufsätze von in Amerika geborenen Achtklässlern „nahezu perfekt“ testete. Allerdings kennzeichnete die App die Hälfte der Aufsätze von Schülern, deren Zweitsprache Englisch war, fälschlicherweise als „KI-Text“.

KI-Test-Apps sollten nicht als „Richter“ eingesetzt werden

Angesichts dieser Realität stellen einige Schulen in den USA ihren Schülern KI-Prüftools zur Verfügung, mit denen sie ihre Arbeiten vor der Abgabe selbst überprüfen können.

Darüber hinaus betonen Technologieunternehmen, dass Schulen KI-Test-Apps nur als unterstützende Tools betrachten sollten und nicht als „Richter“, die über die Aufsätze der Schüler urteilen.

Einige Studenten, die Zeit sparen möchten, sind sogar gezwungen, „AI-Humanizer“-Tools zu verwenden, die menschliche Texte automatisch bearbeiten oder umschreiben können, um KI-Testanwendungen zu bestehen.

Für einige Pädagogen und Schüler, Schulen und Dozenten wird der Missbrauch von KI-Testanwendungen den Lehr- und Lernprozess beeinträchtigen.

„KI wird Teil der Zukunft sein, ob es uns gefällt oder nicht“, bemerkt Adam Lloyd, Englischprofessor an der University of Maryland. „Es ist ein Fehler, KI als etwas zu betrachten, das wir aus dem Unterricht verbannen oder von dessen Nutzung wir die Studierenden abhalten müssen.“ Statt KI-Test-Apps zu verwenden, verlässt sich Lloyd auf seine Intuition. „Ich kenne die Schreibfähigkeiten meiner Studierenden. Wenn ich Zweifel habe, spreche ich offen darüber und beschuldige sie nicht vorschnell, KI für ihre Arbeiten zu verwenden“, sagt Lloyd.

Quelle: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm