Dringender Bedarf zur Kontrolle von KI-Inhalten

Es müssen Kriterien festgelegt werden, um die Inhalte einzuschränken, die Nutzer mithilfe von KI erstellen dürfen, und eine klare Kennzeichnung zu erzwingen.

Künstliche Intelligenz (KI) hat sich in den letzten Jahren rasant entwickelt und stetig verbessert und ist in vielen Bereichen zu einem unverzichtbaren Werkzeug geworden. Veo3 – eine von Google DeepMind entwickelte KI-basierte Videoproduktionstechnologie – kann lebensechte Videos erzeugen. Neben den Vorteilen für die Nutzer birgt dieses Tool jedoch auch das Risiko des Missbrauchs durch Kriminelle.

Es ist schwierig, zwischen echt und gefälscht zu unterscheiden.

Laut der Tech-Welt hat Veo3 weltweit für Furore gesorgt, dank seiner KI-gestützten Videoerstellungsfunktion, die einen Realismusgrad erreicht, der alle bisherigen Tools übertrifft. Anders als OpenAIs Sora, das zwar mit seinen Bildern überzeugt, aber beim Ton Schwächen aufweist, synchronisiert Veo3 Bilder, Umgebungsgeräusche und Dialoge perfekt. Von Schritten und Wind bis hin zu Stimmen und Umgebungsgeräuschen – alles verschmilzt nahtlos miteinander und erreicht einen Grad an Lebensechtheit, der es Nutzern schwer macht, zwischen echten Videos und KI-generierten zu unterscheiden.

In Vietnam löste Veo3 in sozialen Netzwerken wie TikTok, Facebook und YouTube Shorts schnell einen regelrechten Hype aus. Videos mit dem Hashtag #veo3 wurden in atemberaubendem Tempo geteilt und erreichten Millionen von Aufrufen und Hunderttausende von Interaktionen. Viele der KI-generierten Clips überraschten die Online-Community durch ihre unglaubliche Authentizität. So erzielte beispielsweise ein achtsekündiges Video mit einem einfachen Dialog fünf Millionen Aufrufe und über 308.000 Likes. Ein weiteres, vollständig KI-generiertes Video, das eine ältere Frau beim Eierbraten zeigt, erreichte ebenfalls über 2,6 Millionen Aufrufe und mehr als 104.000 Likes.

Herr Tran Vinh Khang, ein Büroangestellter aus dem 1. Bezirk von Ho-Chi-Minh-Stadt, berichtete, dass er kaum noch zwischen Realität und Fälschung unterscheiden konnte, da der Realismusgrad zu hoch war. „Ich sah ein Video von einem Fischverkäufer, der auf dem Markt mit Kunden sprach, und hielt es für echt, weil das Bild so scharf war. Die Art, wie er mit der Hand winkte, die Augenbrauen hob, das Sonnenlicht, das auf sein Gesicht fiel – alles wirkte so natürlich, dass ich kaum glauben konnte, dass es von einer KI erstellt worden war“, sagte Herr Khang.

Die Bilder im von Veo3 erstellten Film lassen sich von den Nutzern nur schwer zwischen echt und gefälscht unterscheiden.

Obwohl sie sich beeindruckt zeigte, äußerte Frau Nguyen Mai Anh (wohnhaft in Ho-Chi-Minh-Stadt) Bedenken hinsichtlich der Informationssicherheit. „Das von Veo3 erstellte Video wirkt so realistisch, dass ich mich unsicher fühle. Sollten Kriminelle diese Technologie nutzen, um Videos zu erstellen, die der Verleumdung, Rufschädigung oder Beweisfälschung dienen, wären die Folgen sehr schwerwiegend“, erklärte Frau Anh.

Viele vietnamesische Nutzer interessieren sich besonders dafür, wie sie auf Veo3 zugreifen und es nutzen können. Veo3 wurde jedoch von Google offiziell nur in den USA über das Google AI Ultra-Abonnementpaket für 249,99 USD/Monat angeboten. Angesichts dieser Einschränkung hat die vietnamesische Online-Community einen Weg gefunden, die Hürde zu überwinden und Veo3 trotzdem nutzen zu können. Viele teilen Tipps, wie man per VPN die IP-Adresse in die USA ändert und sich dort ein Google-Konto in der unterstützten Region registriert, um Veo3 wie ein lokaler Nutzer zu aktivieren und zu verwenden. Sicherheitsexperten zufolge stellt dies jedoch auch eine Sicherheitslücke dar, die von Kriminellen ausgenutzt werden kann.

Rechtlicher Rahmen für KI erforderlich

Herr Le Hong Duc, Gründer von OneAds Digital Company Limited, erklärte, dass KI-generierte Produkte wie Videos, Bilder oder Sprachaufnahmen ein erstaunliches Maß an Realismus erreichen und sogar direkt in Produktion und Vermarktung eingesetzt werden können. Diese rasante Entwicklung bietet klare Vorteile hinsichtlich Kosten und Zeitaufwand, birgt aber auch das Risiko, zur Verbreitung von Falschinformationen oder zur Verunsicherung der Öffentlichkeit missbraucht zu werden. Angesichts immer komplexerer KI-Modelle ist die Inhaltskontrolle daher dringend geboten, insbesondere da die technologische Entwicklung die Aktualisierung der geltenden Gesetze bei Weitem überholt hat.

Herr Duc schlug daher die dringende Entwicklung eines speziellen KI-Gesetzes vor, das die Verantwortlichkeiten derjenigen, die KI-Inhalte erstellen und teilen, klar definiert. Die Verbreitung falscher und schädlicher Inhalte muss sanktioniert und streng geahndet werden. Gleichzeitig müssen die Behörden Kriterien festlegen, um die von Nutzern mit KI erstellten Inhalte einzuschränken und eine eindeutige Kennzeichnung vorzuschreiben. Bei Nichteinhaltung müssen die Nutzer die rechtliche Verantwortung tragen und für entstandene Schäden aufkommen. „Die Schaffung eines separaten Rechtsrahmens für KI ist äußerst dringlich, um diese sich rasant entwickelnde Technologie zu kontrollieren, zu einem gesunden digitalen Umfeld beizutragen und Folgen wie Betrug, ethische Verstöße oder Beleidigungen vorzubeugen“, betonte Herr Duc.

Neben rechtlichen Bedenken äußerte ein Experte für Informationssicherheit, dass die rasante Entwicklung von Veo3 auch bei Content-Erstellern Besorgnis auslöst, insbesondere in Bereichen wie Film, Fernsehen und Animation. Diese Branchen laufen Gefahr, schrittweise durch KI-Technologie ersetzt zu werden, was eine große Herausforderung für den Schutz von Karrieren und Urheberrechten in der Kreativwirtschaft darstellt. „Es ist dringend notwendig, die Rechte an geistigem Eigentum für KI-generierte Inhalte zu regeln, da KI mittlerweile in der Lage ist, äußerst realistische Produkte zu erstellen. Andernfalls riskieren Kreative, ihre Arbeitsplätze durch die Flut virtueller Werke auf dem Markt zu verlieren“, so der Experte.

Vorsicht vor Betrügern, die sich als Dienste ausgeben

Seit dem rasanten Aufstieg von Veo3 kursieren in sozialen Medien zahlreiche Profile, die sich als „KI-Experten“ ausgeben. Sie teilen Demovideos, Anleitungen zum Zugriff auf Veo3 und bieten Accounts sowie Supportleistungen für 200.000 bis 300.000 VND an. Einige Nutzer berichten von erfolgreichem Zugriff und Testen, doch nicht alle Nutzer können die Vorteile nutzen. Herr Le Hong Duc warnt daher vor gefälschten oder inoffiziellen Angeboten und empfiehlt, die offizielle Markteinführung von Veo3 durch Google in Vietnam abzuwarten, um Betrug, Datendiebstahl und die Übernahme von Google-Konten zu vermeiden.

Quelle: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm