KI-Video täuscht Palastüberflutung vor und löst in Südkorea Bedenken hinsichtlich Deepfakes aus

Der vom YouTube-Kanal „Golpadak“ veröffentlichte Clip beginnt mit einem Mann in gelbem Regenmantel, der vor dem Gyeongbokgung-Palast steht und sagt: „Es regnet so stark … Gyeongbokgung ist komplett überflutet.“ Es folgen Szenen von Menschen, die mit Eimern Wasser schöpfen, und … einer Robbe, die über das Palastgelände gleitet. Obwohl die Details etwas absurd sind, glauben viele Menschen dennoch, dass das Video echt ist, da es mit einem Rekordregen in Seoul zusammenfällt.

Hochwasserszene im Gyeongbokgung-Palast, erstellt von KI. (Foto aus Video ausgeschnitten, Quelle: YouTube)

Es wurde bestätigt, dass das Video mit Veo 3 erstellt wurde – Googles neuestem fortschrittlichen KI-Videoerstellungstool. Es ermöglicht lebendige Bilder und realistische Dialoge. Viele Menschen äußerten ihre Empörung über das Video und forderten, der Ersteller solle für die bewusste Verbreitung falscher Informationen bestraft werden.

Dutzende ähnlicher gefälschter Überschwemmungsvideos sind auch auf YouTube aufgetaucht und haben heftige Reaktionen von Medien und Experten hervorgerufen. Sie warnen, dass die Öffentlichkeit durch KI-generierte Inhalte getäuscht wird – selbst wenn die Details absurd sind.

Insbesondere ein gefälschtes Video, das Lavaströme durch die Innenstadt von Seoul simulierte, sorgte bei den Zuschauern für Verwirrung. Der Ersteller des Videos, der YouTuber „Ddalgak“, erklärte, es sei beabsichtigt gewesen, die Leichtigkeit zu satirisieren, mit der Internetnutzer mit Online-Inhalten umgehen. Er gab außerdem zu, Veo 3 für die Erstellung des Videos verwendet zu haben, das von einem Betrug mit Elon Musks Deepfake inspiriert war.

KI ist im koreanischen Leben allgegenwärtig. (Quelle: Shutterstock)

Als Reaktion auf die weit verbreitete Deepfake-Welle erließ Südkorea den „AI Basic Act“, der im Januar 2026 in Kraft treten wird. Das Gesetz schreibt vor, dass alle KI-Videos mit einem Wasserzeichen versehen werden müssen, damit Zuschauer sie leicht identifizieren können. Experten befürchten jedoch, dass Wasserzeichen leicht entfernt oder bearbeitet werden können, was diese Maßnahme weniger abschreckend macht.

Herr Choi Byung-ho, ein Experte am KI-Forschungsinstitut der Korea University, kommentierte: „ Die Entwicklung von Technologien durch KI-Unternehmen zur Identifizierung gefälschter Inhalte wird die sozialen Kosten senken und wirksamer sein als administrative Maßnahmen. “

Deepfakes werden zunehmend zu einem Instrument für Verstöße, die über den Unterhaltungsbereich hinausgehen: von der Erstellung anstößiger, nicht einvernehmlicher Inhalte über Finanzbetrug bis hin zu politischer Manipulation. Bei den Wahlen zur Nationalversammlung im vergangenen Jahr entdeckte und bearbeitete die nationale Wahlbehörde mehr als 120 gefälschte KI-Bilder und -Videos. Dies führte zu einer klaren Offenlegungspflicht bei der Verwendung von KI in Wahlinhalten.

Minh Hoan

Quelle: https://vtcnews.vn/video-ai-gia-canh-lu-lut-tai-cung-dien-gay-lo-ngai-ve-deepfake-o-han-quoc-ar956031.html