(CLO) Das Spracherkennungstool Whisper von OpenAI wird als „nahezu robust und präzise wie ein Mensch“ beworben, hat aber einen großen Nachteil: Es neigt dazu, Textschnipsel oder sogar ganze Sätze zu erfinden!
Einige der von ihm produzierten Texte, die in der Branche als Halluzinogene bekannt sind, können rassistische Kommentare, Gewalt und sogar imaginäre medizinische Behandlungen enthalten, sagen Experten.
Experten halten solche Fälschungen für schwerwiegend, da Whisper in zahlreichen Branchen weltweit zum Übersetzen und Transkribieren von Interviews sowie zum Erstellen von Texten und Untertiteln für Videos eingesetzt wird.
Noch beunruhigender ist, dass medizinische Zentren Whisper-basierte Tools verwenden, um Arzt-Patienten-Konsultationen aufzuzeichnen, obwohl OpenAI davor warnt, das Tool in „Hochrisikogebieten“ einzusetzen.
Sätze, die mit „#Ground truth“ beginnen, entsprechen dem, was tatsächlich gesagt wurde, Sätze, die mit „#text“ beginnen, entsprechen dem, was Whisper transkribiert hat. Foto: AP
Forscher und Ingenieure berichten, dass Whisper während der Nutzung häufig Halluzinationen hervorruft. So gab beispielsweise ein Forscher der University of Michigan an, in acht von zehn untersuchten Aufnahmen Halluzinationen festgestellt zu haben.
Ein Ingenieur für maschinelles Lernen entdeckte die Manipulation in etwa der Hälfte der über 100 Stunden Whisper-Transkripte, die er analysierte. Ein dritter Entwickler sagte, er habe die Illusion in fast jedem der 26.000 mit Whisper erstellten Transkripte gefunden.
Die Illusion bleibt selbst bei kurzen, gut aufgenommenen Audioproben bestehen. Eine aktuelle Studie von Informatikern fand 187 Verzerrungen in mehr als 13.000 untersuchten, klaren Audioclips.
Dieser Trend würde zu Zehntausenden von Fehlern bei Millionen von Aufzeichnungen führen, sagten die Forscher.
Solche Fehler könnten „wirklich ernste Konsequenzen“ haben, insbesondere in einem Krankenhausumfeld, sagte Alondra Nelson, Professorin an der School of Social Sciences des Institute for Advanced Study.
„Niemand möchte eine Fehldiagnose erhalten. Die Hürde muss höher sein“, sagte Nelson.
Die Professorinnen Allison Koenecke von der Cornell University und Mona Sloane von der University of Virginia untersuchten Tausende kurzer Textauszüge aus TalkBank, einem Forschungsarchiv der Carnegie Mellon University. Sie kamen zu dem Schluss, dass fast 40 Prozent der Halluzinationen schädlich oder verstörend waren, weil der Sprecher missverstanden oder falsch dargestellt werden konnte.
Ein Sprecher beschrieb in einer Aufnahme „zwei andere Mädchen und eine Frau“, aber Whisper erfand zusätzliche rassistische Kommentare und fügte hinzu: „zwei andere Mädchen und eine Frau, ähm, schwarz“.
In einer anderen Abschrift erfand Whisper ein nicht existierendes Medikament namens „Antibiotika mit erhöhter Aktivität“.
Während die meisten Entwickler davon ausgehen, dass Transkriptionstools Rechtschreibfehler oder andere Fehler machen können, sagen Ingenieure und Forscher, dass sie noch nie ein KI-gestütztes Transkriptionstool gesehen haben, das so halluzinogen wirkt wie Whisper.
Das Tool ist in mehrere Versionen des OpenAI-Flaggschiff-Chatbots ChatGPT integriert und ist ein integrierter Dienst in den Cloud-Computing-Plattformen von Oracle und Microsoft, der Tausenden von Unternehmen weltweit zur Verfügung steht. Es wird auch zum Transkribieren und Übersetzen von Texten in viele Sprachen verwendet.
Ngoc Anh (laut AP)
[Anzeige_2]
Quelle: https://www.congluan.vn/cong-cu-chuyen-giong-noi-thanh-van-ban-ai-cung-co-the-xuyen-tac-post319008.html
Kommentar (0)