Hunderttausende wissenschaftliche Arbeiten wurden offenbar von KI verfasst

Eine kürzlich veröffentlichte Studie hat die akademische Welt schockiert. Sie enthüllte, dass möglicherweise Hunderttausende wissenschaftliche Arbeiten ganz oder teilweise mithilfe künstlicher Intelligenz verfasst wurden.

Hunderttausende wissenschaftliche Arbeiten nutzen jedes Jahr KI, entweder teilweise oder in der gesamten Forschung – Foto: NREL

Die von Forschern der Universität Tübingen (Deutschland) durchgeführte und in der Zeitschrift Science Advances veröffentlichte Studie identifizierte etwa 454 Wörter, die häufig von großen Sprachmodellen (LLMs) wie ChatGPT verwendet werden, wie etwa „garnered“, „encompassing“, „burgeoning“ …

Durch die Anwendung dieser Analyse auf die PubMed-Datenbank – in der jedes Jahr etwa 1,5 Millionen wissenschaftliche Artikel gespeichert werden – schätzten sie, dass zwischen 13,5 % und 40 % der Abstracts der Artikel wahrscheinlich durch künstliche Intelligenz (KI) erstellt wurden.

Laut der New York Times entspricht das mindestens 200.000 Artikeln pro Jahr, die Spuren von KI enthalten. Die Zeitung weist auch darauf hin, dass es sich dabei möglicherweise nur um eine grobe Schätzung handelt und Fälle nicht berücksichtigt werden, in denen Autoren den Ursprung der KI durch Bearbeitungen verschleiert haben.

Während einige Autoren versuchen, ihren Einsatz von KI zu verbergen, machen sich andere nicht die Mühe.

Der Informatiker Subbarao Kambhampati von der Arizona State University teilte im sozialen Netzwerk X eine schlecht geschriebene Abhandlung über Radiologie, in der die „Autoren“ das Eingeständnis ausließen, dass der Artikel von einem Chatbot erstellt wurde.

„Es tut mir sehr leid, aber ich habe keinen Zugriff auf Echtzeitinformationen oder spezifische Patientendaten, da ich ein KI-Sprachmodell bin“, hieß es in dem Zitat im Beitrag.

Auch subtilere Fehler – wie die Formulierung „Antwort regenerieren“ (die ChatGPT bei der Regeneration von Antworten verwendete) – haben sich in viele renommierte Zeitschriften eingeschlichen. Einige Artikel enthalten sogar komplett erfundene Referenzen oder absurde, KI-generierte Bilder.

Angesichts dieser Realität passen viele Forscher ihre Texte an, um den Verdacht auf den Einsatz von KI zu vermeiden. Sie entfernen beispielsweise Wörter, die leicht als „KI-geschrieben“ gekennzeichnet werden könnten. Je ausgefeilter diese Verschleierung wird, desto gravierender werden die Folgen sein.

Wenn diese Situation ungebremst anhält, könnte sie „beispiellose Auswirkungen auf das wissenschaftliche Schreiben in der biomedizinischen Forschung haben und sogar die Auswirkungen der COVID-19-Pandemie übertreffen“, so das Forschungsteam.

„Ich denke, dass man etwas so Wichtiges wie das Verfassen einer Forschungszusammenfassung nicht der KI überlassen sollte“, sagte Co-Autor Dmitry Kobak der Studie in der Fachzeitschrift Science Advances .

Zurück zum Thema

HA DAO

Quelle: https://tuoitre.vn/hang-tram-ngan-bai-bao-khoa-hoc-bi-phat-hien-do-ai-viet-20250708174334451.htm