Mögliche Risiken bei der Verbreitung von Fehlinformationen
Wissenschaft und Technologie beeinflussen nicht nur die Art und Weise, wie Presse und Medien ihre Botschaften vermitteln und beeinflussen die Art und Effektivität des öffentlichen Zugangs, sondern wirken sich auch tiefgreifend auf die Qualität der Information aus.
Tatsächlich hat sich der Journalismus, insbesondere in den letzten Jahren, schnell an technologische Innovationen angepasst. Künstliche Intelligenz (KI) hat sich in den Massenmedien und den Redaktionen von Nachrichtenagenturen zunehmend etabliert. Der Einsatz von KI bietet sowohl Journalisten als auch Medienunternehmen Vorteile. Er befreit Journalisten von mühsamen Routineaufgaben und ermöglicht es ihnen, Zeit zu sparen und sich auf kreativere und anspruchsvollere Tätigkeiten zu konzentrieren.
Künstliche Intelligenz bietet zwar viele Vorteile, birgt aber auch einige Risiken. Eines der größten Risiken ist die Möglichkeit, dass KI-generierte Inhalte Fehlinformationen verbreiten.
Die zehn größten Nachrichtenagenturen der Welt fordern kollektive und transparente Verhandlungen zwischen Medienunternehmen und KI-Entwicklern, um zu kontrollieren, welche urheberrechtlich geschützten Materialien zum Trainieren von KI-Tools verwendet werden dürfen, und um Verzerrungen in KI-Algorithmen zu beseitigen.
In der vergangenen Woche unterzeichneten zehn der weltweit führenden Nachrichtenagenturen einen Brief, in dem sie Transparenz und klare Urheberrechtsgesetze im Zusammenhang mit KI forderten. Die Nachrichtenagenturen argumentierten, KI berge das Potenzial, die Nachhaltigkeit des Medienökosystems zu gefährden, indem sie das Vertrauen der Leser in die Qualität und Integrität von Nachrichten erheblich untergrabe.
Laut zahlreichen Studien kann KI dazu genutzt werden, Geschichten zu filtern und auszuwählen, die Leser besonders ansprechen und deren Interesse wecken. Dadurch entsteht ein Ungleichgewicht in der Berichterstattung, das bei einer objektiven, von Menschen erstellten Darstellung nicht auftreten würde. Die Öffentlichkeit wird nur mit einer Seite der Medaille konfrontiert und kann sich daher von einseitigen, KI-generierten Informationen beeinflussen lassen. Darüber hinaus kann KI dazu missbraucht werden, Fehlinformationen und Fake News zu verbreiten, indem erfundene Geschichten neben wahren präsentiert werden.
Auch KI kann anfällig für Falschnachrichten sein. KI-Algorithmen sind darauf ausgelegt, Daten schnell und präzise zu verarbeiten, wodurch es schwierig wird, zwischen echten und gefälschten Nachrichten zu unterscheiden. Zudem ist KI nicht in der Lage, die emotionalen und moralischen Implikationen der verarbeiteten Nachrichten zu verstehen. Mit fortschreitender Entwicklung der KI wird ihre Anfälligkeit für Falschnachrichten zunehmen, was die Unterscheidung zwischen Realität und Fiktion weiter erschwert.
Laut Dr. Nguyen Ngoc Oanh, außerordentlicher Professor und Leiter der Fakultät für Internationale Beziehungen an der Akademie für Journalismus und Kommunikation, erfordert die zunehmende Leistungsfähigkeit von KI besondere Aufmerksamkeit und proaktives Handeln angesichts der Gefahr, dass böswillige Akteure und feindselige Kräfte KI nutzen, um schädliche und gefälschte Nachrichten zu verbreiten. Aus Sicht der Mediensicherheit verdeutlicht dies das potenzielle Risiko von Fehlinformationen, Verzerrungen und Fake News. Sobald künstliche Intelligenz im Informationsbereich Anwendung findet, kann die Technologie dazu beitragen, Stimmen und Bilder zu fälschen sowie gefälschte Geschichten und Aussagen zu erstellen, die täuschend echt wirken, um die Öffentlichkeit, insbesondere in sozialen Netzwerken, zu manipulieren.
„Menschen mit bösen Absichten missbrauchen die Rolle und das Prestige der Presse, um Informationen zu verfälschen und die Öffentlichkeit zu täuschen, indem sie behaupten, es handele sich um von der Presse bereitgestellte und wiedergegebene Informationen. Die Entwicklung von Fake News wird immer raffinierter und komplexer. Daher müssen neben erhöhter Wachsamkeit auch die Methoden zur Erkennung, Reaktion und zum Umgang mit Fake News auf Investitionen in intelligente Technologien und eine systematische Vorgehensweise ausgerichtet werden. Die Kapazitäten des Social-Media- und Pressemanagements müssen verbessert werden, um sich an die Veränderungen anzupassen“, kommentierte Privatdozent Dr. Nguyen Ngoc Oanh.
Die Nachrichtenbranche muss Wege finden, ihre kreativen Inhalte zu schützen.
Seit dem Start von ChatGPT im November 2022 werden fast täglich neue Anwendungen auf Basis generativer KI veröffentlicht. Dadurch ist das Internet mit KI-generierten Inhalten überschwemmt. Neben einigen wirklich beeindruckenden Inhalten gibt es auch viel langweiligen und sich wiederholenden Content. Dies erleichtert die Verbreitung von Fehlinformationen und stellt die Medienbranche vor die große Herausforderung, das Vertrauen der Leser zu gewinnen und wiederherzustellen.
Der Journalist Nguyen Hoang Nhat, stellvertretender Chefredakteur der Zeitung Vietnamplus, erinnerte an die Lehren der Vergangenheit, als viele Experten der Presse vorwarfen, zu langsam auf die Bedeutung und den Einfluss sozialer Netzwerke reagiert zu haben. „Wir haben lange Zeit all unsere Inhalte in sozialen Netzwerken veröffentlicht und unsere Kernkompetenzen daran angepasst. Das lag weder in unserer Stärke noch im Interesse unserer Leser. Kurz gesagt, wir haben den sozialen Netzwerken zu viel Macht gegeben und uns dadurch von ihnen vereinnahmen lassen“, sagte Nguyen Hoang Nhat.
Während der Weltmeisterschaft, an der die vietnamesische Frauenmannschaft teilnahm, kursierten in den sozialen Medien zahlreiche Quellen, die verzerrte und erfundene Informationen verbreiteten. (Foto: VTC)
Mit Blick auf die aktuelle Bedrohung durch KI erklärte der Journalist Nguyen Hoang Nhat, dass KI zwar im Allgemeinen die Arbeit von Redaktionen beschleunigt und Kosten spart, aber gleichzeitig Redakteure und Reporter nachlässiger mache und die Verbreitung von Falschinformationen begünstige. „Beispielsweise verbreiteten sich während der letzten Frauen-Weltmeisterschaft gefälschte Inhalte über das vietnamesische Frauenteam durch Memes, die mithilfe KI-basierter Tools erstellt wurden, rasant und führten zu extremen psychologischen Verstimmungen bei Teilen des Publikums“, so Nhat.
Im Ausland veröffentlichte News Guard eine alarmierende Statistik: 347 Nachrichtenseiten wirken wie seriöse Nachrichtenseiten, sind aber voller KI-generierter Inhalte und verbreiten Fehlinformationen. Eine aktuelle Studie des Massachusetts Institute of Technology (MIT) ergab, dass Menschen KI-generierten Fehlinformationen eher Glauben schenken als von Menschen erstellten Fake News.
Laut dem Journalisten Nguyen Hoang Nhat versetzt diese Realität die Nachrichtenbranche in eine Lage, in der sie Wege finden muss, ihre kreativen Inhalte und ihr geistiges Eigentum zu schützen, aber gleichzeitig die Annehmlichkeiten, die die KI mit sich bringt, nicht ignorieren kann.
Dr. Nguyen Ngoc Oanh, außerordentliche Professorin, analysierte die Herausforderungen für die Integrität der Nachrichten und erklärte, dass Chat GPT zwar viele herausragende Funktionen biete, letztendlich aber nur ein Werkzeug sei, dessen Beherrschung Journalisten erlernen müssten, um es im Rahmen ihrer beruflichen Tätigkeit für die Erstellung von Beiträgen und Presseartikeln gemäß den Prinzipien des Berufsstandes einzusetzen. Die Überprüfung der Informationsquellen von Reportern und Journalisten sei von größter Wichtigkeit, wenn sie nicht zur Verbreitung falscher Informationen beitragen wollten.
Nach zahlreichen Seminaren und Diskussionen über künstliche Intelligenz besteht die Erkenntnis, dass das Risiko der Verwendung von Falschdaten und -nachrichten in journalistischen Arbeiten sehr hoch ist, wenn das Content-Management in der Redaktion mit der rasanten Entwicklung digitaler Technologien nicht Schritt halten kann. Da der rechtliche Rahmen für digitalen Journalismus in Vietnam noch nicht mit der Realität Schritt gehalten hat, stellen rechtliche Probleme, Bedrohungen der Mediensicherheit, Urheberrechtsverletzungen und Kontroversen über journalistische Ethik und die soziale Verantwortung der Presse beim Einsatz automatisierter Medien große Herausforderungen dar.
Phan Hoa Giang
Quelle
Kommentar (0)