ChatGPT und DeepSeek verfälschen wissenschaftliche Daten.

Eine Forschergruppe in Deutschland warnte kürzlich vor möglichen Verzerrungen beim Einsatz von KI-Chatbots zur Zusammenfassung von Forschungsinhalten. Nach der Analyse von 4.900 von Menschen verfassten wissenschaftlichen Abstracts verglichen die Forscher mithilfe verschiedener KI-Modelle die Informationsverarbeitung dieser Systeme. Die Ergebnisse zeigten, dass die meisten Chatbots den Fehler der Übergeneralisierung begingen, selbst wenn sie zu einer präzisen Zusammenfassung aufgefordert wurden.

Künstliche Intelligenz kann den Inhalt bei der Zusammenfassung wissenschaftlicher Forschungsergebnisse leicht verfälschen.

In den Experimenten machten KI-Modelle ohne Anleitung fünfmal mehr Fehler als menschliche Forscher. Selbst bei klaren Genauigkeitsanforderungen war die Fehlerrate doppelt so hoch wie bei einer Standardzusammenfassung. Ein Mitglied des Forschungsteams kommentierte: „Generalisierungen mögen mitunter harmlos erscheinen, verändern aber tatsächlich den Charakter der ursprünglichen Forschung. Es handelt sich um eine systemische Verzerrung.“

Neuere Chatbot-Versionen lösen das Problem nicht nur nicht, sondern verschärfen es sogar. KI-generierte Zusammenfassungen vermitteln durch ihre flüssige und ansprechende Darstellung leicht den Eindruck von Vertrauenswürdigkeit, während der eigentliche Inhalt verfälscht wird. So änderte DeepSeek beispielsweise die Formulierung „sicher und erfolgreich umsetzbar“ in „sichere und wirksame Behandlung“ – eine Interpretation, die von den ursprünglichen Schlussfolgerungen der Studie abwich.

Das könnte Sie interessieren

Gebrauchtwagen zum Preis von 200 Millionen VND: Diese sind eine bessere Wahl als der KIA Morning und der Hyundai Grand i10.Mit einem Budget von rund 200 Millionen VND sind Gebrauchtwagen eine beliebte Wahl für viele Familien, die ein Fahrzeug suchen, um ihren grundlegenden täglichen Transportbedarf zu decken.

In einem anderen Beispiel wandte das Llama-Modell Empfehlungen für Diabetesmedikamente auf junge Probanden an, ohne Dosierung, Häufigkeit oder Nebenwirkungen anzugeben. Wenn der Leser, ein Arzt oder eine andere medizinische Fachkraft, die Angaben nicht mit der Originalstudie abgleicht, können solche Zusammenfassungen eine direkte Gefahr für Patienten darstellen.

Experten vermuten, dass dieses Phänomen auf die Art und Weise zurückzuführen ist, wie KI-Modelle trainiert werden. Viele aktuelle Chatbots werden mit Sekundärdaten trainiert – beispielsweise mit massenhaft produzierten wissenschaftlichen Nachrichten –, die bereits vereinfacht wurden. Da die KI diese vereinfachten Inhalte immer weiter zusammenfasst, steigt das Risiko von Verzerrungen.

KI-Experten im Bereich der psychischen Gesundheit argumentieren, dass technische Hürden für die Entwicklung und den Einsatz von KI bald beseitigt werden müssen.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

Nutzer sollten vorsichtig sein, da Chatbots Inhalte leicht verfälschen können.

Da Nutzer zunehmend auf KI-Chatbots zurückgreifen, um wissenschaftliche Informationen zu erhalten, können sich kleine Interpretationsfehler schnell anhäufen und verbreiten, was zu weit verbreiteten Missverständnissen führt. In einer Zeit, in der das Vertrauen in die Wissenschaft schwindet, ist dieses Risiko besonders besorgniserregend und erfordert besondere Aufmerksamkeit.

Vereinigte Staaten - Vietnam: Nicht verpassen

Das Außenministerium erhielt eine Kopie des Beglaubigungsschreibens für den US-Botschafter in Vietnam.Am Nachmittag des 2. Juli nahm Herr Le Cong Dung, Direktor der Abteilung für Staatsprotokoll und Dolmetscherdienste, im Hauptsitz des Außenministeriums eine Kopie des Beglaubigungsschreibens von Frau Jennifer Wicks, der Botschafterin der Vereinigten Staaten von Amerika in Vietnam, entgegen.

Botschafter Nguyen Quoc Dung besucht und arbeitet in Minnesota, USA.Vom 28. bis 30. Juni besuchte der vietnamesische Botschafter in den Vereinigten Staaten, Nguyen Quoc Dung, Minnesota und arbeitete dort.

Vietnam ermutigt US-Unternehmen, ihre Investitionen in Hochtechnologie auszuweiten.Am Morgen des 26. Juni empfing Vizepremierminister Ho Quoc Dung im Regierungssitz Herrn Jeff Place, Supply-Chain-Direktor der Coherent Group (USA). Während des Treffens bekräftigte der Vizepremierminister, dass Vietnam US-Unternehmen zu verstärkten Investitionen ermutigt, insbesondere in den Bereichen Hochtechnologie, Innovation und Halbleiterindustrie.

Die Integration von KI in Forschung und Wissensvermittlung ist ein unumkehrbarer Trend. Experten betonen jedoch, dass Technologie die Rolle des Menschen beim Verständnis und der Überprüfung wissenschaftlicher Inhalte nicht ersetzen kann. Beim Einsatz von Chatbots in risikoreichen Bereichen wie dem Gesundheitswesen muss daher die Genauigkeit Vorrang vor einer reibungslosen Sprachverarbeitung oder schnellen Reaktionszeiten haben.

Quelle: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html