Künstliche Intelligenz hilft bei der Überprüfung von Informationen

ClaimPKG – eine vom Center for Data and Artificial Intelligence Services (Viettel AI) entwickelte Methode zur Informationsverifizierung mittels künstlicher Intelligenz – ist bis zu 12 % genauer als die derzeitigen Methoden.

In der digitalen Welt benötigen Benutzer Werkzeuge zur Unterstützung der Informationsauthentifizierung.

Im digitalen Zeitalter sind soziale Netzwerke und Online-Plattformen für Millionen von Menschen täglich zum wichtigsten Informationskanal geworden. Doch neben dem Komfort ist die rasante Verbreitung von Falschmeldungen und Fake News eine besorgniserregende Realität. Daher ist es unerlässlich, Informationen durch Vergleich und Überprüfung auf ihre Richtigkeit zu prüfen – egal ob wir lesen, hören oder teilen.

Angesichts dieser Situation hat das Viettel Data and Artificial Intelligence Service Center ClaimPKG entwickelt – eine effektive und praxistaugliche Methode zur Informationsverifizierung. Diese Forschung hat weltweit über 5.200 Studien übertroffen und wird direkt auf der ACL 2025 vorgestellt. Die ACL 2025 zählt zu den weltweit führenden Konferenzen im Bereich der natürlichen Sprachverarbeitung (NLP) und weist eine Annahmequote von lediglich 37 % auf. Die Veranstaltung bringt führende Technologieexperten von namhaften Unternehmen wie Google, Meta, Huawei, IBM, Amazon und Oracle zusammen.

ClaimPKG kombiniert einen Wissensgraphen (Knowledge Graph) mit einem großen Sprachmodell (LLM) und steigert die Genauigkeit im Vergleich zu aktuellen Methoden um 9 % bis 12 %. Dies wurde anhand des FactKG-Datensatzes (einem in der Technologie-Community für Informationsverifizierung hoch angesehenen Benchmark-Datensatz) getestet. Das Testergebnis unterstreicht das große Anwendungspotenzial von ClaimPKG zur Verbesserung der Zuverlässigkeit zukünftiger KI-Systeme zur Informationsverifizierung.

Zuvor hatte das Viettel Data and Artificial Intelligence Service Center auf der NAACL 2025 Konferenz mit VeGraph – einer Methode zur Informationsverifizierung auf Basis textueller Wissensplattformen wie Artikeln, Rechtsdokumenten usw. – ebenfalls Aufmerksamkeit erregt. VeGraph erzielte eine um 2–5 % höhere Genauigkeit im Vergleich zu anderen Methoden, doch in vielen Fällen, insbesondere wenn den Textdaten eine klare Struktur fehlt, kann der Verifizierungsprozess zeitaufwändig sein und die Konsistenz schwer zu gewährleisten.

Um Genauigkeit und Konsistenz zu verbessern, verfolgt das Viettel Data and Artificial Intelligence Service Center weiterhin neue Wege. ClaimPKG wurde mit einem strukturierten, wissensbasierten Ansatz entwickelt und verwendet einen klar formatierten Wissensgraphen gemäß dem Subjekt-Beziehungs-Objekt-Modell.

Die zu verifizierenden Informationen werden aufgeteilt und in einen „Pseudo-Subgraphen“ transformiert. Anschließend ruft das System relevantes Wissen aus dem Wissensgraphen ab und lässt LLM daraus die endgültige Schlussfolgerung ziehen. Dieses Verfahren trägt dazu bei, die Genauigkeit, Konsistenz und Zuverlässigkeit der Verifizierung zu erhöhen und gleichzeitig den Rechenaufwand für LLM zu reduzieren.

Die technischen Vorteile von ClaimPKG bilden auch die Grundlage für die Erweiterung der praktischen Anwendungsmöglichkeiten. Im Bereich Journalismus und Kommunikation kann die Technologie Reporter und Redakteure dabei unterstützen, Falschnachrichten zu erkennen und Nachrichtenquellen schnell und fundiert zu vergleichen.

Im medizinischen und juristischen Bereich kann diese Technologie als „Verifizierungsassistent“ fungieren und dabei helfen, Fachwissen nachzuschlagen und zu authentifizieren. Darüber hinaus bietet ClaimPKG das Potenzial, in Chatbots oder virtuelle Assistenten integriert zu werden, wodurch das System zuverlässigere Antworten liefern und mehrdeutige Beurteilungen vermeiden kann.

Die ACL 2025 (Jahrestagung der Association for Computational Linguistics), die vom 27. Juli bis 1. August in Wien stattfindet, zählt zu den weltweit renommiertesten und einflussreichsten Veranstaltungen im Bereich der natürlichen Sprachverarbeitung (NLP). Tausende internationale Forscher, Ingenieure und Experten kommen hier zusammen, um die neuesten Fortschritte in der NLP zu diskutieren – von maschinellem Lernen, maschineller Übersetzung, Textzusammenfassung und automatischer Fragebeantwortung bis hin zu Fragen der Ethik und Fairness in der linguistischen KI.

Das Hauptthema der diesjährigen Konferenz lautet „Generalisierung von NLP-Modellen“ und legt den Schwerpunkt auf die Entwicklung von Modellen, die in der Lage sind, sich an neue Daten, Sprachen oder Domänen anzupassen und diese zu verstehen.

HA LINH

Quelle: https://nhandan.vn/cong-nghe-tri-tue-nhan-tao-giup-kiem-chung-thong-tin-post898494.html