KI-Tools zur Behebung von Produktfehlern bei KI-basierten Produkten

Falschnachrichten werden durch KI-Manipulation immer raffinierter.

Bei dem kürzlich in Hanoi abgehaltenen Treffen zwischen der vietnamesischen und der thailändischen Journalistenvereinigung widmeten die Vorsitzenden beider Verbände den größten Teil ihrer Redezeit dem Problem der „Fake News“ und erklärten, dass es sich dabei nicht mehr um ein nationales Problem, sondern um ein großes Problem handle, das unvorhersehbare Auswirkungen in der Region und der Welt habe.

Laut einer Studie von Google DeepMind ist die Erstellung von Bildern, Videos und Audiodateien, die Menschen imitieren, fast doppelt so häufig wie die Verbreitung von Fehlinformationen mithilfe von Tools wie KI-Chatbots.

In den letzten Monaten sind auf TikTok, X und Instagram Deepfakes des britischen Premierministers Rishi Sunak und anderer globaler Führungskräfte aufgetaucht. Es bestehen Bedenken, dass trotz der Bemühungen der sozialen Netzwerke, die Inhalte zu kennzeichnen oder zu entfernen, das Publikum sie möglicherweise nicht als Fälschung erkennt und ihre Verbreitung die Wähler beeinflussen könnte.

Im Vorfeld der Parlamentswahlen sind auf TikTok und Instagram gefälschte Bilder des britischen Premierministers Rishi Sunak aufgetaucht. (Foto: AFP)

Luong Dong Son, MSc., Dozent am Institut für Journalismus und Kommunikation der Akademie für Journalismus und Propaganda, analysierte die Auswirkungen von Fake News im Technologiezeitalter und erklärte, dass die Kombination aus KI und Desinformation – auch bekannt als surreale Fake News – die öffentliche Wahrnehmung von Ereignissen und gesellschaftlichen Problemen verzerren und somit die Beurteilung der Lage und die Entscheidungsfindung beeinflussen kann. Dies kann schwerwiegende Folgen haben, von kleinen persönlichen Entscheidungen bis hin zu wichtigen Entscheidungen, die die Gemeinschaft und das Land betreffen.

Hyper-Fake News können als Instrument genutzt werden, um die öffentliche Meinung zu manipulieren, zu Gewalt anzustiften, Spaltung zu säen und die soziale Stabilität zu untergraben. Im politischen Bereich können Hyper-Fake News das Vertrauen in demokratische Institutionen untergraben, Wahlergebnisse beeinflussen und sogar Konflikte auslösen.

Zu den Herausforderungen für Journalisten und Presseorganisationen sagte MSc. Luong Dong Son, dass die Raffinesse surrealer Fake News, insbesondere Deepfakes, es immer schwieriger mache, zwischen echt und gefälscht zu unterscheiden, selbst für erfahrene Journalisten.

„Im Zeitalter der Informationsflut erwartet die Öffentlichkeit zunehmend, dass Journalisten und Nachrichtenorganisationen Informationen schnell und präzise liefern. Dieser Druck kann jedoch dazu führen, dass Journalisten Informationen vorschnell und ohne sorgfältige Überprüfung veröffentlichen, wodurch die Verbreitung absurder Falschmeldungen begünstigt wird. Zudem setzen sich Journalisten und Nachrichtenorganisationen rechtlichen und ethischen Risiken aus, wenn sie Informationen nicht sorgfältig prüfen und veröffentlichen“, sagte Herr Son.

Lassen Sie KI Informationen überprüfen

Laut MSc. Luong Dong Son ist der Einsatz moderner technologischer Lösungen zur Bekämpfung dieser Art von Fake News unerlässlich.

„Diese Lösungen konzentrieren sich nicht nur auf das Aufspüren und Eliminieren von Fake News, sondern auch darauf, sie bereits in den frühen Entstehungsstadien zu verhindern“, sagte MSc. Dong Son.

Laut Herrn Son ist die Erkennung von Falschnachrichten mithilfe von Systemen der künstlichen Intelligenz (KI) eine der wichtigsten Technologien heutzutage. Moderne KI-Systeme sind in der Lage, Kontexte zu analysieren, Informationen aus verschiedenen Quellen zu vergleichen und Auffälligkeiten im Informationsinhalt zu erkennen. Ein typisches Beispiel ist die Analyse von Videos und Bildern mithilfe von KI, um Anzeichen von Bearbeitung oder Manipulation durch Deepfake-Technologie aufzudecken.

Darüber hinaus setzen Social-Media-Plattformen und Suchmaschinen verstärkt auf Algorithmen des maschinellen Lernens, um Falschnachrichten automatisch zu klassifizieren und herauszufiltern, bevor sie sich viral verbreiten. Diese Algorithmen sind darauf ausgelegt, Anomalien in den Verbreitungsmustern, der Geschwindigkeit der Verbreitung oder sogar im Tonfall von Beiträgen zu erkennen und so die Wahrscheinlichkeit einzuschätzen, dass es sich um Falschinformationen handelt.

Darüber hinaus stellt der Einsatz der Blockchain-Technologie zur Verwaltung der Informationsherkunft eine weitere mögliche Lösung dar. Die Blockchain ermöglicht die Schaffung eines transparenten und unveränderlichen Authentifizierungssystems und trägt somit dazu bei, Herkunft und Verlauf aller Informationen nachzuverfolgen und deren Genauigkeit und Zuverlässigkeit zu gewährleisten.

Künstliche Intelligenz kann gefälschte Inhalte oder irreführende Informationen und Bilder erzeugen, die schwer zu unterscheiden sind, was dem Ruf von Einzelpersonen und Organisationen großen Schaden zufügt und sogar nationale und ethnische Interessen beeinträchtigt.

Herr Phan Van Tu, Leiter des Fachbereichs Journalismus an der Fakultät für Journalismus und Kommunikation der Universität für Sozial- und Geisteswissenschaften in Ho-Chi-Minh-Stadt, teilt die Meinung von MSc. Luong Dong Son und betonte, dass wir neben der Vermittlung von Fähigkeiten zur Nutzung der Stärken der KI für den Journalismus auch KI-Werkzeuge zur Überprüfung von Informationen einsetzen müssen.

Die Quellenprüfung, also die Beurteilung der Zuverlässigkeit einer Quelle, ist eine wichtige Fähigkeit, die die Überprüfung der Informationsquelle, den Vergleich mit anderen Quellen und die Verwendung von Faktencheck-Tools zur Überprüfung der Zuverlässigkeit umfasst.

Interessant ist, dass es aktuell neben traditionellen Tools für Faktenchecker wie Google Bilder, Tineye (Bildersuche), Whopostedwhat.com, Wayback Machine, Webarchive.org, InVID, WeVerify, ExifTool und Metapicz viele KI-integrierte Werkzeuge gibt, die Journalisten im Verifizierungsprozess unterstützen.

Herr Phan Van Tu erklärte, dass die Ausbildung von Journalisten in der heutigen Zeit besonderes Augenmerk auf die Sicherstellung der Informationsverifizierung im Kampf gegen KI-gesteuerte Falschnachrichten legen müsse. „Der Einsatz von KI-Tools zur Behebung von KI-bedingten Fehlern ist der schnellste Weg, Journalisten und Presseagenturen nicht nur bei der Erfüllung ihrer Aufgaben zu unterstützen, sondern auch zur Verbesserung der Informationsqualität beizutragen und die Öffentlichkeit vor Falschinformationen und den negativen Auswirkungen der Medien zu schützen“, so Herr Tu.

Herr Tu wies jedoch auch darauf hin, dass die Fähigkeit von Journalisten, Informationen zu bewerten, nicht allein auf Tools beruhen kann. Es muss gleich vorweg gesagt werden, dass KI zwar die Analyse von Nachrichteninhalten unterstützen kann, aber nicht alle Arten von Fake News und manipulierten Informationen erkennen kann. KI-Software kann selbst durch die von ihr verwendeten Erkennungsmethoden getäuscht werden.

„Kein Werkzeug ist ein Zauberstab, aber KI-Tools, die gefälschte Fotos/Videos erkennen, sind dennoch eine wertvolle Ressource im Rahmen eines Verifizierungsprozesses oder einer Sorgfaltsprüfung“, sagte Phan Van Tu.

Hoa Giang

Quelle: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html