Dringende Notwendigkeit zur Kontrolle von KI-Inhalten

Künstliche Intelligenz (KI) hat sich in den letzten Jahren rasant weiterentwickelt und kontinuierlich verbessert und ist in vielen Bereichen zu einem wichtigen Hilfsmittel geworden. Veo3 – eine Videotechnologie mit KI, die kürzlich von Google DeepMind entwickelt wurde – kann lebensechte Aufnahmen erstellen. Neben den unterstützenden Funktionen birgt dieses Tool auch die Gefahr, von Kriminellen für Betrug missbraucht zu werden.

Schwierig, zwischen echt und falsch zu unterscheiden

Laut der Technologiewelt hat Veo3 weltweit für Aufsehen gesorgt, da seine KI-Videoerstellungsfunktion einen Realismus bietet, der alle bisherigen Tools übertrifft. Im Gegensatz zu OpenAIs Sora, das nur durch Bilder glänzt, aber beim Ton eingeschränkt ist, synchronisiert Veo3 Bilder, Umgebungsgeräusche und Dialoge perfekt. Von Schritten und Wind bis hin zu menschlichen Stimmen und Umgebungseffekten – alles wird nahtlos kombiniert und erreicht ein Maß an Lebensechtheit, sodass es für Benutzer schwierig ist, zwischen echten und KI-erstellten Videos zu unterscheiden.

In Vietnam löste Veo3 in sozialen Netzwerken wie TikTok, Facebook und YouTube Shorts schnell ein Fieber aus. Eine Reihe von Videos mit dem Hashtag #veo3 wurde in schwindelerregender Geschwindigkeit geteilt und erzielte Millionen von Aufrufen und Hunderttausende von Interaktionen. Viele von KI erstellte Clips überraschten die Online-Community mit ihrer unglaublichen Authentizität. So erreichte beispielsweise ein 8-sekündiges Video mit einem einfachen Dialog 5 Millionen Aufrufe und über 308.000 Likes. Ein weiteres, vollständig von KI erstelltes Video, das eine ältere Frau beim Eierbraten zeigt, erreichte ebenfalls über 2,6 Millionen Aufrufe und über 104.000 Likes.

Herr Tran Vinh Khang, ein Büroangestellter im Bezirk 1 von Ho-Chi-Minh-Stadt, berichtete, dass er kaum zwischen echt und gefälscht unterscheiden könne, da die Authentizität zu hoch sei. „Ich sah ein Video von einem Fischverkäufer, der auf dem Markt mit Kunden sprach, und dachte, es sei echt, weil das Bild so scharf war. Wie er mit der Hand wedelte, die Augenbrauen hochzog, das Sonnenlicht auf sein Gesicht schien – alles wirkte so natürlich, dass es unglaublich war, dass es von künstlicher Intelligenz geschaffen wurde“, sagte Herr Khang.

Cấp bách kiểm soát nội dung AI - Ảnh 1. — Bilder im Film erstellt von Veo3, Benutzer finden es schwierig, zwischen echten und gefälschten zu unterscheiden

Obwohl sie zugab, beeindruckt zu sein, äußerte Frau Nguyen Mai Anh (wohnhaft in Ho-Chi-Minh-Stadt) Bedenken hinsichtlich der Informationssicherheit. „Das von Veo3 erstellte Video ist so realistisch, dass es mich verunsichert. Wenn Kriminelle diese Technologie nutzen, um Videos zu erstellen, die verleumden, diffamieren oder Beweise fälschen, werden die Folgen sehr schwerwiegend sein“, erklärte Frau Anh.

Viele vietnamesische Nutzer interessieren sich besonders für den Zugriff und die Nutzung von Veo3. Google hat Veo3 jedoch offiziell nur auf dem US-Markt eingeführt, und zwar über das Google AI Ultra-Abonnementpaket für 249,99 USD/Monat. Trotz dieser Einschränkung hat die vietnamesische Online-Community einen Weg gefunden, Veo3 zu nutzen. Viele Nutzer geben Tipps zur Nutzung von VPN, um die IP-Adresse in die USA zu ändern und so ein Google-Konto in einer unterstützten Region zu registrieren, um Veo3 als lokaler Nutzer zu aktivieren und zu nutzen. Laut Sicherheitsexperten ist dies auch eine Lücke, die Kriminelle für fragwürdige Zwecke ausnutzen können.

Rechtsrahmen für KI erforderlich

Herr Le Hong Duc, Gründer der OneAds Digital Company Limited, sagte, dass KI-generierte Produkte wie Videos, Bilder oder Stimmen einen erstaunlichen Grad an Realismus erreichen und sogar direkt in Produktion und Vermarktung gehen können. Diese explosionsartige Entwicklung bringt klare Kosten- und Zeitvorteile mit sich, kann aber auch zur Verbreitung falscher Informationen oder zur öffentlichen Verwirrung missbraucht werden. Angesichts immer komplexerer KI-Modelle wird die Inhaltskontrolle dringend erforderlich, insbesondere da die Technologie die Geschwindigkeit der Aktualisierung bestehender Gesetze weit hinter sich gelassen hat.

Daher schlug Herr Duc die dringende Notwendigkeit eines speziellen KI-Gesetzes vor, das die Verantwortlichkeiten derjenigen klar definiert, die KI-Inhalte erstellen und teilen. Die Verbreitung falscher und schädlicher Inhalte muss streng geahndet und geahndet werden. Gleichzeitig müssen die Behörden Kriterien festlegen, um die Inhalte, die Nutzer mit KI erstellen dürfen, einzuschränken und klare Kennzeichnungen zu verlangen. Bei nicht korrekter Umsetzung müssen die Nutzer rechtlich haftbar gemacht und für entstandene Schäden entschädigt werden. „Die Schaffung eines separaten Rechtsrahmens für KI ist äußerst dringend, um diese sich rasant entwickelnde Technologie zu kontrollieren, zu einer gesunden digitalen Umgebung beizutragen und Folgen wie Betrug, ethische Verstöße oder Beleidigung anderer zu verhindern“, betonte Herr Duc.

Neben rechtlichen Bedenken weckt die herausragende Entwicklung von Veo3 laut einem Experten für Informationssicherheit auch bei Content-Erstellern Besorgnis, insbesondere in Bereichen wie Film, Fernsehen und Animation. Diese laufen Gefahr, allmählich durch KI-Technologie ersetzt zu werden. Dies stellt eine große Herausforderung für den Schutz von Karrieren und Urheberrechten in der Kreativbranche dar. „Es ist notwendig, die Vorschriften zum geistigen Eigentum für KI-generierte Inhalte bald zu ergänzen, da KI mittlerweile in der Lage ist, äußerst realistische Produkte zu produzieren. Andernfalls laufen die Urheber Gefahr, aufgrund der Flut virtueller Werke, die den Markt überschwemmen, ihren Arbeitsplatz zu verlieren“, so der Experte.

Vorsicht vor gefälschten Diensten

Seit Veo3 explosionsartig aufgetaucht ist, haben viele Accounts, die sich als „KI-Experten“ ausgeben, auf Social-Media-Plattformen begonnen, Demovideos und Anleitungen zum Zugriff auf Veo3 zu teilen oder Konten und Support-Services für Preise zwischen 200.000 und 300.000 VND zu verkaufen. Einige Nutzer gaben an, erfolgreich darauf zugegriffen und es ausprobiert zu haben, aber nicht jeder konnte damit Erfahrungen sammeln. Herr Le Hong Duc warnte Nutzer vor gefälschten oder inoffiziellen Diensten und empfahl, abzuwarten, bis Google Veo3 offiziell auf dem vietnamesischen Markt einführt, um Finanzbetrug, Datendiebstahl oder die Kontrolle von Google-Konten zu vermeiden.

Kommentar (0)