Willst du, was du willst
Frau Loan saß in einem Café und surfte im Internet. Zu ihrem Erstaunen sah sie auf dem Bildschirm einen alten Mann, der eine „Singing Bar“ betrat, fünf langbeinige Mädchen gleichzeitig anrief und frei tanzte… „Dieser alte Mann hat ein ähnliches Gesicht wie mein alter Herr. Das Bild ist unvorstellbar. Wenn die Kinder im Haus diese Bilder sehen würden, was würden sie sagen… das wäre ein Problem“, erzählte Frau Loan.
In den sozialen Medien gibt es mittlerweile viele KI -Videos mit vulgären Inhalten, vom Ton bis zum Bild.
Ein anderes Bild: Ein alter Mann mit drei jungen Mädchen in coolen Klamotten auf einem Motorrad, das die Straße entlangrast. Der Fahrer schreit: „Bleibt weg von meinem Rücken, zwei Schrauben drücken in meinen Rücken, wie soll ich das nur ertragen…“ Oder das Bild eines Mädchens im Bikini, das mitten auf dem Markt läuft und einen alten Mann interviewt, der schlecht über Frauen redet; ein Interview über ihren Ex-Liebhaber mit vulgären Antworten…
„Derzeit gibt es auf Social-Media-Plattformen Hunderte, ja Tausende von KI-basierten Videos. Darin sind leicht bekleidete Mädchen, obszöne Dialoge über Physiologie und Sex zu sehen … und Videos, die kulturelle Werte verletzen und mobile Nutzer mit intelligenten Algorithmen ansprechen. Wer auch immer Videos jeglicher Art erstellen möchte, ist hier falsch“, befürchtet Thanh Hoai, ein Bankangestellter.
Heutzutage sind KI-Tools zur Videoerstellung nichts Ungewöhnliches mehr, wie zum Beispiel HeyGen, Synthesia, Pictory, InVideo, Kling AI, Luma AI, Veed.io, FlexClip, Wave Video ... Jedes Tool hat seine eigenen Stärken hinsichtlich Funktionen, Bildqualität, Avatar-Personalisierung, Mehrsprachenunterstützung oder Integration von KI-Voiceover und Spezialeffekten. KI-Videos in „realistischer“ Qualität, die wie oben erwähnt „übermäßige“ Bilder und Töne erzeugen und in der Netzwerkumgebung dicht auftauchen, werden meist mit der KI Google Veo 3 erstellt. Dies ist ein KI-Modell, das Videos aus Eingabeaufforderungen erstellen und lebendige Töne wie Dialoge zwischen Figuren oder Tiergeräusche integrieren kann und als wesentlich fortschrittlicher gilt als andere KI-Modelle, die nur „stumme“ Videos oder Videos mit einfacher Hintergrundmusik erstellen.
KI-Videos, insbesondere kuriose und vulgäre Videos, erreichen schnell die Aufmerksamkeit mobiler Nutzer, da viele Nutzer Servicepakete von KI-Tool-Anbietern für wenige Dutzend bis mehrere Hundert US-Dollar pro Monat abonnieren können. Gleichzeitig bieten viele Privatpersonen auch Komplettpakete zur KI-Videoerstellung an, darunter Basispakete: kurze Videos mit durchschnittlichen Bildern; erweiterte Pakete mit hochwertigen Videos, vielen Effekten; professionelle Pakete mit kreativen Videos und erweiterten Funktionen – wobei die Preise von Länge, Komplexität und zusätzlichen Funktionen wie Synchronisation, mehrsprachigen Untertiteln und SEO-Optimierung abhängen. „Sie können jede Art von KI-Video erstellen, die Sie möchten, selbst anstößige, lustige Inhalte, coole Bilder an überfüllten Orten oder „schmerzhafte“ Dialoge – wir können alles“, bestätigte Trong Hoa, ein Content-Spezialist (Erstellung von Inhalten für soziale Netzwerke).
Viele unvorhersehbare Folgen
Google gibt an, dass alle von Veo 3 generierten Inhalte mit einem SynthID-Wasserzeichen versehen sind – der Technologie von DeepMind, die hilft, KI-generierte Inhalte zu verfolgen und zu identifizieren. Das Unternehmen stellt außerdem einen Sicherheitsleitfaden zur Verfügung, der das Ziel betont, Nutzern zu helfen, KI-Inhalte verantwortungsvoll zu erstellen und zu identifizieren.
Doch mit dem Aufkommen von KI-Videos im Allgemeinen und des Tools Veo 3 im Besonderen wird die Frage der KI-Ethik aus einer spezifischen Perspektive aufgeworfen. KI verzerrt die kulturelle Identität, da sie „hybride“ Versionen der nationalen Kultur schaffen kann, was zu Verwirrung hinsichtlich des Ursprungs führt, die Seele der kulturellen Identität verliert und es der Gemeinschaft auf lange Sicht erschwert, zwischen dem ursprünglichen Wert und der Variation zu unterscheiden. Verletzung kultureller Eigentumsrechte, da KI leicht kulturelle Elemente ohne Anerkennung oder Urheberrechtsschutz sammelt, kopiert und repliziert, was zu einer weit verbreiteten Verwendung traditioneller Werte führt. Sozialpsychologische Auswirkungen: Die häufige Konfrontation mit gefälschten Inhalten verwirrt Benutzer und lässt sie an der Echtheit aller Informationen zweifeln, was das soziale Vertrauen und gemeinsame kulturelle Werte beeinträchtigt.
„Die rasante Entwicklung dieser Technologie hat dazu geführt, dass gesetzliche Regelungen, Urheberrechtsschutzmaßnahmen und die Identifizierung von Echtheit und Fälschung nicht mehr Schritt halten können. Dies stellt die Bewahrung und Förderung traditioneller kultureller Werte vor große Herausforderungen. Veo 3 ist nicht nur ein Unterhaltungstool, sondern auch ein Durchbruch in den Bereichen Kommunikation, Bildung , Marketing und sogar Kino. Neben den Chancen bergen sie jedoch auch erhebliche Herausforderungen, wie das Risiko des Technologiemissbrauchs, die Ersetzung von Menschen in der Kreativbranche und die damit verbundenen ethischen Fragen. Daher sind Richtlinien, ethische Standards und die Vermittlung digitaler Kompetenzen für die Gesellschaft äußerst wichtig, damit KI wie Veo 3 verantwortungsvoll entwickelt und eingesetzt werden kann“, sagte Phan Phuoc Quoc, Direktor der GenZ Company.
Andererseits steigt mit der Weiterentwicklung von KI-Tools auch das Risiko von Cyberangriffen. Je ausgefeilter die KI-Tools zur Videoerstellung sind, desto gefährlicher werden Cyberangriffe mit Deepfakes. Laut Kaspersky (einem der weltweit größten Antivirensoftware-Unternehmen) findet durchschnittlich alle fünf Minuten ein Deepfake-Angriff statt, und es wird prognostiziert, dass bis 2026 bis zu 90 % der Online-Inhalte mithilfe von KI erstellt werden. Das Hauptziel von Deepfake-Angriffen sind nach wie vor normale Nutzer mit persönlichen Daten, Bank- und Zahlungsdaten.
„Das Risiko der Verbreitung falscher und gefälschter Inhalte mithilfe von Deepfake-Technologie bereitet vielen Menschen Sorgen. KI-Tools wie Veo 3 können ausgenutzt werden, um gefälschte Inhalte zu produzieren, die den Ruf von Einzelpersonen und Organisationen schädigen oder soziale Informationsstörungen verursachen“, sagte Vu Ngoc Son, Leiter der Abteilung für Forschung, Beratung, Technologieentwicklung und internationale Zusammenarbeit der National Cyber Security Association (NCA).
BA TAN
Quelle: https://www.sggp.org.vn/canh-giac-video-ai-phan-cam-post799084.html
Kommentar (0)