Je zugänglicher KI-Tools sind, desto wahrscheinlicher ist es, dass sie fehlerhaft sind.

Um dieses Thema besser zu verstehen, führten Reporter der Zeitung „Journalist & Public Opinion“ ein Gespräch mit dem Journalisten Nguyen Cao Cuong – stellvertretender Direktor des VTVcab-Programmproduktionszentrums und Experte auf dem Gebiet der Kommunikation und sozialen Netzwerke.

KI-Produkte sollten bei ihrer Verwendung gekennzeichnet werden.

Herr, wie beurteilen Sie die aktuelle Entwicklung der KI-Technologie, insbesondere angesichts der kürzlich erschienenen Anwendung Sora (ein Ableger von ChatGPT bei OpenAI), die Videos aus Text erstellen kann?

Die Anwendung von KI-Technologien im Medienbereich hat rasante Fortschritte gemacht. Während KI bisher hauptsächlich für statische und einfache Bilder eingesetzt wurde, produziert sie nun auch Videos. Die OpenAI-Anwendung Sora wurde kürzlich veröffentlicht und wandelt Texte in kurze Videos mit einer maximalen Länge von unter einer Minute um. Sora erzeugt Videos mit lebendigen Bildern, flüssigen Bewegungen und detailreichen Hintergründen, die einen hohen Realismusgrad erreichen. Dies eröffnet Technologieunternehmen, Medienunternehmen und sogar Presse- und Medienagenturen große Möglichkeiten, ihre Medienprodukte mithilfe von Videoclips zu präsentieren.

Der Journalist Nguyen Cao Cuong – stellvertretender Direktor des VTVcab-Programmproduktionszentrums – bei einer Medienschulung.

Der Einsatz von KI-Produkten wird jedoch weiterhin von allen Beteiligten mit Vorsicht gehandhabt, und viele Länder erwägen sogar die Ausarbeitung von Regulierungen für den KI-Einsatz im Journalismus, um einen klaren rechtlichen Rahmen zu schaffen. Obwohl KI ein sehr gutes und nützliches Werkzeug für Journalisten darstellt, bedarf ihre Anwendung, insbesondere im Journalismus, sorgfältiger Überlegung. Der Journalismus selbst ist der Wahrung der objektiven Wahrheit verpflichtet. Künstliche Intelligenz hingegen ist lediglich ein von Maschinen erzeugtes Produkt, eine Synthese, die nur illustrativ ist.

+ Chancen bergen immer auch Risiken. Je fortschrittlicher die KI-Anwendung, desto größer sind die damit verbundenen Risiken. Was halten Sie von dieser Aussage?

Mit der Weiterentwicklung der Technologie steigt das Risiko, dass KI zahlreiche gefälschte Objekte erzeugt, die echten Menschen täuschend ähnlich sehen. Bilder von Menschen im Internet zeigen Aktivitäten, die denen von echten Personen ähneln. Dies führt zu einer Informationsunsicherheit, die wir bereits aus der Vergangenheit kennen: Deepfakes, die Bilder und Stimmen fälschen, um Online-Betrug zu begehen – ein Phänomen, das mittlerweile weit verbreitet ist. Die Schattenseiten von Deepfakes und KI geben Anlass zur Sorge, und die Menschen werden zunehmend kein Vertrauen mehr in KI-generierte Bilder haben.

Derzeit gibt es für Presseagenturen und staatliche Behörden keine Regelungen im Bereich der künstlichen Intelligenz (KI). Daher sollten Redaktionen KI-Produkte beim Einsatz dieser Technologie entsprechend kennzeichnen. Dies dient auch dazu, die Öffentlichkeit darauf hinzuweisen, dass es sich um Produkte künstlicher Intelligenz und nicht um von Menschenhand geschaffene Bilder handelt. Gleichzeitig wird betont, dass es sich um Illustrationen und nicht um reale Bilder handelt, um Missverständnisse zu vermeiden.

Der Journalist Nguyen Cao Cuong leitet Studenten bei der praktischen Durchführung von Medienproduktionen an.

Im Journalismus muss man beim Einsatz von KI äußerst vorsichtig und geschickt vorgehen.

+ Wie können Presseagenturen in naher Zukunft die Vorteile der KI nutzen, Sir?

Presseagenturen verwenden KI-generierte Illustrationen, die als Grafiken, Werbebilder, Einführungsfotos oder Illustrationen dienen können. Daher sind die Anforderungen an absolute Genauigkeit nicht allzu hoch, weshalb der Einsatz zulässig ist. Für investigative Artikel, Reportagen oder Nachrichtenartikel ist die Verwendung von KI-Bildern jedoch definitiv nicht gestattet, da die Öffentlichkeit reale Bilder mit KI-generierten Bildern verwechseln könnte.

Daher ist im Journalismus beim Einsatz von KI größte Vorsicht und Geschick geboten. Handelt es sich um ein Produkt eines Medienunternehmens oder einer auf die Erstellung von Medienprodukten spezialisierten Einheit, die für die Werbung, den Verkauf oder die Kundenführung von Produkten zuständig ist, so ist der Einsatz von KI durchaus sinnvoll. Hierbei geht es ausschließlich um die schnelle Erstellung ansprechender, kreativer Bilder für Illustrationen. Je nach Zweck der Medienarbeit wird dies als solches gekennzeichnet oder nicht. Meiner Meinung nach handelt es sich jedoch um ein neues Phänomen, das einer Kennzeichnung bedarf.

Nehmen wir beispielsweise ein Tool, das ein Bild eines Ereignisses erstellt, das vor Jahrzehnten oder Jahrhunderten stattfand. Hierfür können wir KI nutzen. Was dieses Tool erstellt, hängt jedoch maßgeblich vom Wissen des Journalisten ab. Er muss das Ereignis jener Zeit verstehen, um der KI die nötigen Informationen sowie die an sie übermittelten Texte und Befehle bereitzustellen. Oder wenn ein Journalist KI beispielsweise verwendet, um eine Kriegsszene mit Menschen aus der Tran-Dynastie zu rekonstruieren, aber keine Kenntnisse darüber besitzt, wie die Soldaten dieser Dynastie aussahen – wie ihre Kleidung und Waffen aussahen –, besteht die Gefahr einer Verwechslung mit einer anderen Epoche.

OpenAIs Sora generiert Videos von bis zu einer Minute Länge, die komplexe Szenen, Kamerabewegungen und mehrere, emotional aufgeladene Charaktere enthalten. Screenshot aus einem mit der Sora-App erstellten Clip.

+ Wenn ein journalistischer Beitrag von einer KI erstellt oder größtenteils von einer KI generiert wurde, wie würden Sie ihn rechtlich beurteilen, wenn er als qualitativ hochwertiger Journalismus ausgezeichnet oder für Journalistenpreise eingereicht werden sollte?

Aktuell gibt es weder im Ministerium für Information und Kommunikation noch im vietnamesischen Journalistenverband spezifische Richtlinien oder Vorschriften zum Einsatz von KI in journalistischen Arbeiten. Presseagenturen, die KI in irgendeiner Form nutzen, müssen dies jedoch deutlich kennzeichnen. Unabhängig davon, ob ein Beitrag für einen Wettbewerb eingereicht wird oder nicht – sobald er veröffentlicht wird, müssen Journalisten äußerst sorgfältig vorgehen und über umfassende Fachkenntnisse verfügen, um KI-generierte Inhalte klar zu kennzeichnen. Die Eingabe von Informationen muss präzise erfolgen, um Verwirrung bei der KI-Erstellung zu vermeiden. Nach der Erstellung eines KI-Produkts ist eine erneute Überprüfung erforderlich. Journalisten müssen dabei redaktionell vorgehen und die Einhaltung der Standards prüfen. Gerade in der Anfangsphase der KI-Entwicklung, in der die Datenlage noch begrenzt ist und die Gefahr von Fehlinterpretationen hoch ist, muss diesem Aspekt besondere Aufmerksamkeit geschenkt werden.

OpenAI hat soeben Sora vorgestellt, eine KI-Anwendung, die aus Textbefehlen realistische Videos generieren kann.

+ Sollten Presseagenturen Ihrer Meinung nach die Aus- und Weiterbildung von Reportern und Journalisten verbessern, damit diese die Möglichkeiten der KI, insbesondere die neu eingeführten Funktionen, besser nutzen können?

Natürlich. Mit KI-gestützten Videoinhalten, vertikalen Videos, Audio- oder Textproduktionen, Fotos usw. wollen wir Journalisten ständig Leser und Zuschauer gewinnen und müssen uns daher immer weiterbilden. Am wichtigsten ist der richtige Umgang mit den Tools und wie gut unsere redaktionellen, redigierenden und verifizierenden Fähigkeiten sind. Reicht das Fachwissen von Journalisten aus? Kurz gesagt: Jeder Reporter, Journalist und Redakteur muss Folgendes beachten: Je einfacher der Zugang zu KI-Tools ist, desto höher ist auch die Fehlerwahrscheinlichkeit.

In journalistischen oder Fernsehproduktionen können Sie beliebig viele KI-generierte Medien verwenden, solange Inhalt und Bilder im Kontext der damaligen Zeit logisch, authentisch und akkurat das Ereignis darstellen. Wenn ein KI-generiertes journalistisches Produkt gut kontrolliert, authentisch und angemessen ist, sehe ich keine Probleme. Historische Rekonstruktionen wie Fotos, Gemälde und Videos können wir verwenden, sollten sie aber entsprechend kennzeichnen, damit die Öffentlichkeit den Kontext kennt: In welchem ​​Zeitraum, zu welcher Zeit und mit welchem ​​Inhalt wurden die rekonstruierten Bilder von der KI erstellt?

+ Da es noch immer rechtliche und Sicherheitsbedenken gibt, sollten Presseagenturen KI-Produkte einsetzen, um Pressemitteilungen zu erstellen, die ausschließlich zur Veröffentlichung auf Social-Media-Plattformen verwendet werden?

Wenn die Entwicklung eines KI-Produkts nur für das Hochladen auf Social-Media-Plattformen zu aufwendig ist, sollten wir das überdenken. In diesem Fall sollten solche Produkte auf der Website der Presseagentur veröffentlicht werden. Plattformen wie Facebook, TikTok und YouTube sind zwar Drittanbieterplattformen, und wir können auch über diese Kanäle Einnahmen generieren, aber die langfristige Strategie muss eindeutig darin bestehen, unseren eigenen Kanal weiterzuentwickeln. Daher sollten die wertvollsten und arbeitsintensivsten Inhalte auf dem offiziellen Kanal des Inhabers veröffentlicht werden.

Vielen Dank!

Le Tam (aufgeführt)

Quelle: https://www.congluan.vn/cong-cu-ai-cang-tiep-can-de-dang-thi-kha-nang-sai-sot-cang-nhieu-post286155.html