Die Herausforderung der Nachrichtenintegrität angesichts der beschleunigten Entwicklung und Einführung von KI

Mögliche Risiken bei der Verbreitung von Fehlinformationen

Wissenschaft und Technologie beeinflussen nicht nur die Art und Weise, wie Presse und Medien ihre Botschaften vermitteln, sie beeinflussen und prägen auch die Art und Wirksamkeit des öffentlichen Zugangs, sondern haben auch einen großen Einfluss auf die Qualität der Informationen.

Tatsächlich konnte sich der Journalismus, insbesondere in den letzten Jahren, schnell an technologische Innovationen anpassen. Künstliche Intelligenz (KI) hat sich in den Massenmedien und Redaktionen von Nachrichtenagenturen zunehmend durchgesetzt. Der Einsatz von KI bringt sowohl Journalisten als auch Medienunternehmen Vorteile. Sie befreit Journalisten von mühsamen Routineaufgaben, spart ihnen Zeit und ermöglicht ihnen, sich auf kreativere und anspruchsvollere Aufgaben zu konzentrieren.

KI bietet zwar viele Vorteile, wirft aber auch einige Bedenken auf. Eines der größten Risiken besteht darin, dass KI-generierte Inhalte Fehlinformationen verbreiten können.

Die zehn größten Nachrichtenagenturen der Welt fordern gemeinsame und transparente Verhandlungen zwischen Medien und KI-Entwicklern, um zu kontrollieren, welches urheberrechtlich geschützte Material zum Trainieren von KI-Tools verwendet werden kann, und um Voreingenommenheit in KI-Algorithmen zu beseitigen.

In der vergangenen Woche unterzeichneten zehn der weltweit führenden Nachrichtenorganisationen einen Brief, in dem sie Transparenz und klare Urheberrechtsgesetze für KI forderten. Die Nachrichtenorganisationen argumentierten, dass KI das Potenzial habe, „die Nachhaltigkeit des Medienökosystems zu gefährden“, indem sie das Vertrauen der Leser in die Qualität und Integrität von Nachrichten erheblich untergrabe.

Zahlreiche Studien belegen, dass KI dazu eingesetzt werden kann, diejenigen Geschichten zu filtern und auszuwählen, die die Leser am ehesten ansprechen und fesseln. Dadurch entsteht ein Ungleichgewicht in der Nachrichtenwelt, das bei einer objektiven, von Menschen erstellten Darstellung der Geschichten nicht bestehen würde. Die Öffentlichkeit sieht nur eine Seite der Geschichte und kann sich daher an einseitigen, von KI generierten Informationen orientieren. Darüber hinaus kann KI dazu eingesetzt werden, Fehlinformationen und Fake News zu verbreiten, indem erfundene Geschichten neben wahren präsentiert werden.

Auch KI kann durch Fake News getäuscht werden. KI-Algorithmen sind darauf ausgelegt, Daten schnell und präzise zu verarbeiten, was die Unterscheidung zwischen echten und gefälschten Nachrichten erschwert. Darüber hinaus ist KI nicht in der Lage, die emotionalen und moralischen Implikationen der von ihr verarbeiteten Nachrichten zu verstehen. Mit der Weiterentwicklung der KI wird ihre Anfälligkeit für Fake News zunehmen, was die Unterscheidung zwischen echten und gefälschten Nachrichten noch schwieriger macht.

Laut Associate Professor Dr. Nguyen Ngoc Oanh, Leiter der Abteilung für Internationale Beziehungen an der Akademie für Journalismus und Kommunikation, ist es angesichts der zunehmenden Macht von KI auch wichtig, besonders aufmerksam zu sein und proaktiv zu handeln, da die Gefahr besteht, dass Bösewichte und feindliche Kräfte KI zur Verbreitung schädlicher und gefälschter Nachrichten nutzen. Aus Sicht der Mediensicherheit zeigt dies das potenzielle Risiko von Fehlinformationen, Verzerrungen und Fake News. Sobald künstliche Intelligenz im Informationsbereich eingesetzt wird, kann die Technologie dazu beitragen, Stimmen und Bilder zu fälschen sowie gefälschte Geschichten und Aussagen zu erstellen, die echt wirken, um die Öffentlichkeit zu täuschen, insbesondere in sozialen Netzwerken.

„Personen mit schlechten Absichten missbrauchen die Rolle und den Ruf der Presse, um Informationen zu fälschen und der Öffentlichkeit vorzutäuschen, dass die von der Presse verbreiteten und wiedergegebenen Informationen wahr sind. Die Entwicklung von Fake News wird immer raffinierter und komplexer. Deshalb müssen die Methoden zur Erkennung, Reaktion und Handhabung von Fake News neben erhöhter Wachsamkeit auf Investitionen in intelligente Technologien und einen systematischen Umgang mit ihnen ausgerichtet sein. Die Kapazitäten des Social Managements und des Managements von Presseagenturen müssen verbessert werden, um sich an die Veränderungen anzupassen“, kommentierte der außerordentliche Professor Dr. Nguyen Ngoc Oanh.

Die Nachrichtenbranche muss Wege finden, ihre kreativen Inhalte zu schützen.

Seit dem Start von ChatGPT im November 2022 werden fast täglich neue Anwendungen auf Basis generativer KI bereitgestellt. Infolgedessen ist das Internet mit KI-generierten Inhalten gefüllt. Zwar gibt es einige, die überwältigend sind, aber auch viele langweilige, sich wiederholende Inhalte. Dies erleichtert die Verbreitung von Fehlinformationen und erhöht die Belastung für die Medienbranche, das Vertrauen ihrer Leser aufzubauen und wiederherzustellen.

Der Journalist Nguyen Hoang Nhat, stellvertretender Chefredakteur der Zeitung Vietnamplus, erinnerte an die Erfahrungen der Vergangenheit. Damals sagten viele Experten, einer der ersten großen Fehler der Presse sei gewesen, zu langsam auf die Bedeutung und die zunehmende Verbreitung sozialer Netzwerke zu reagieren. „Wir haben lange Zeit alle unsere Inhalte in sozialen Netzwerken veröffentlicht und unsere Kernthemen entsprechend verändert, was manchmal weder unsere Stärke noch die Bedürfnisse der Leser sind. Kurz gesagt, wir haben den sozialen Netzwerken zu viel Macht eingeräumt, was dazu geführt hat, dass sie uns verschluckt haben“, sagte der Journalist Nguyen Hoang Nhat.

Während die vietnamesische Frauenmannschaft an der Weltmeisterschaft teilnahm, waren die sozialen Medien voll von Quellen, die verzerrte und erfundene Informationen verbreiteten. (Foto: VTC)

Mit Blick auf die aktuelle Bedrohung durch KI sagte der Journalist Nguyen Hoang Nhat, dass KI Redaktionen im Allgemeinen dabei helfe, ihre Arbeit schneller zu erledigen und Kosten zu sparen. Allerdings werde sie auch Redakteure und Reporter nachsichtiger machen und dazu beitragen, dass sich Falschinformationen schneller verbreiten. „Während der letzten Frauen-Fußballweltmeisterschaft beispielsweise verbreiteten sich gefälschte Inhalte über die vietnamesische Frauenmannschaft durch Memes, die mit KI-Tools erstellt wurden, furchtbar ‚viral‘, was die allgemeine Psychologie eines Teils des Publikums auf die Spitze trieb“, nannte der Journalist Nguyen Hoang Nhat ein Beispiel.

Im Ausland stieß News Guard auf eine erschreckende Statistik: 347 Nachrichtenseiten, die wie seriöse Nachrichtenseiten aussehen, sind voller KI-generierter Inhalte und verbreiten Fehlinformationen. Eine aktuelle Studie des Massachusetts Institute of Technology (MIT) ergab, dass Menschen eher KI-generierten Fehlinformationen Glauben schenken als von Menschen generierten Fake News.

Laut dem Journalisten Nguyen Hoang Nhat bringt diese Realität die Nachrichtenbranche in eine Lage, in der sie Wege finden muss, ihre kreativen Inhalte und ihr geistiges Eigentum zu schützen, gleichzeitig aber nicht auf die Annehmlichkeiten verzichten kann, die KI mit sich bringt.

Außerordentlicher Professor Dr. Nguyen Ngoc Oanh bewertete die Herausforderungen im Hinblick auf die Wahrhaftigkeit von Nachrichten und sagte, dass Chat GPT zwar viele herausragende Funktionen habe, letztlich aber nur ein Werkzeug sei, das Journalisten beherrschen und für ihre Arbeit nutzen müssten, um Werke und Presseprodukte gemäß den Grundsätzen des Berufsstandes zu erstellen. Die Überprüfung der Informationsquellen von Reportern und Journalisten sei äußerst wichtig, wenn sie nicht zur Verbreitung ungenauer Informationen beitragen wollten.

Zahlreiche Seminare und Diskussionen zum Thema künstliche Intelligenz haben ergeben, dass das Risiko der Verwendung gefälschter Daten und Nachrichten in journalistischen Arbeiten sehr hoch ist, wenn das Content-Management in der Redaktion nicht mit der Entwicklung der digitalen Technologie Schritt halten kann. Da die rechtlichen Rahmenbedingungen für digitalen Journalismus in Vietnam noch nicht mit der Realität Schritt gehalten haben, stellen rechtliche Probleme, Bedrohungen der Mediensicherheit, Fälle von Urheberrechtsverletzungen und Kontroversen über journalistische Ethik und die soziale Verantwortung des Journalismus bei der Anwendung automatisierten Journalismus heute große Herausforderungen dar.

Phan Hoa Giang

Quelle: https://www.congluan.vn/thach-thuc-ve-tinh-trung-thuc-cua-tin-tuc-khi-toc-do-phat-trien-va-ap-dung-ai-o-muc-nhay-vot-post260620.html