Willst du, was du willst
Als Frau Loan in einem Café saß und im Internet surfte, erschrak sie, als sie auf dem Bildschirm einen alten Mann sah, der eine „Singing Bar“ betrat, fünf langbeinige Mädchen gleichzeitig anrief und frei tanzte … „Dieser alte Mann hat ein ähnliches Gesicht wie mein alter Herr. Das Bild ist unvorstellbar. Wenn die Kinder im Haus diese Bilder sehen würden, was würden sie sagen … das wäre ein Problem“, erzählte Frau Loan.
In den sozialen Medien gibt es mittlerweile viele KI -Videos mit vulgären Inhalten, vom Ton bis zum Bild.
Ein anderes Bild: Ein alter Mann mit drei jungen Mädchen in coolen Klamotten auf einem Motorrad, das die Straße entlangrast. Der Fahrer schreit: „Bleiben Sie von meinem Rücken weg, zwei Schrauben drücken in meinen Rücken, wie kann ich das ertragen …“. Oder das Bild eines Mädchens im Bikini, das mitten auf dem Markt läuft und einen alten Mann interviewt, der schlecht über Frauen redet; ein Interview über ihren Ex-Liebhaber mit vulgären Antworten …
„Derzeit gibt es auf Social-Media-Plattformen Hunderte oder sogar Tausende von Videos, die mit KI-Tools erstellt wurden. Darin sind leicht bekleidete Mädchen zu sehen, es gibt obszöne Dialoge über Physiologie und Sex … und Videos, die kulturelle Werte verletzen und mobile Nutzer mit intelligenten Algorithmen ansprechen. Wer auch immer ein Video jeglicher Art erstellen möchte, ist hier richtig“, befürchtet Thanh Hoai, ein Bankangestellter.
Heutzutage sind KI-Tools zur Videoerstellung nichts Ungewöhnliches mehr, wie etwa HeyGen, Synthesia, Pictory, InVideo, Kling AI, Luma AI, Veed.io, FlexClip, Wave Video ... Jedes Tool hat seine eigenen Stärken hinsichtlich Funktionen, Bildqualität, Avatar-Personalisierung, Mehrsprachenunterstützung oder Integration von KI-Voiceover und Spezialeffekten. KI-Videos mit „realistischer“ Qualität und der Erstellung „exzessiver“ Bilder und Töne, wie oben erwähnt, die in der Netzwerkumgebung dicht auftauchen, werden meist mit der KI Google Veo 3 erstellt. Dies ist ein KI-Modell, das Videos aus Eingabeaufforderungen erstellen und lebendige Töne wie Dialoge zwischen Figuren oder Tiergeräusche integrieren kann, und das als deutlich fortschrittlicher gilt als andere KI-Modelle, die nur „stumme“ Videos oder Videos mit einfacher Hintergrundmusik erstellen.
KI-Videos, insbesondere kuriose und vulgäre Videos, erreichen schnell die „Ohren und Augen“ von Mobilnutzern, da sich viele Menschen für Servicepakete von KI-Tool-Anbietern für einige Dutzend bis einige Hundert USD pro Monat anmelden können. Gleichzeitig bieten viele Einzelpersonen auch Komplettpakete zur KI-Videoerstellung an, beispielsweise Basispakete: kurze Videos, durchschnittliche Bilder; erweiterte Pakete mit hochwertigen Videos, vielen Effekten; professionelle Pakete mit kreativen Videos, erweiterten Funktionen … wobei die Preise von Länge, Komplexität und zusätzlichen Funktionen wie Synchronisation, mehrsprachigen Untertiteln und SEO-Optimierung abhängen. „Sie können jede Art von KI-Video haben, die Sie möchten, selbst wenn Sie anstößige, lustige Inhalte, coole Bilder an überfüllten Orten oder „schmerzhafte“ Dialoge wünschen … wir können alles machen“, bekräftigte Trong Hoa, ein Content-Spezialist (Erstellung von Inhalten für soziale Netzwerke).
Viele unvorhersehbare Folgen
Google gibt an, dass alle von Veo 3 generierten Inhalte mit einem SynthID-Wasserzeichen versehen sind – der Technologie von DeepMind, die dabei hilft, KI-generierte Inhalte zu verfolgen und zu identifizieren. Das Unternehmen stellt außerdem einen Sicherheitsleitfaden zur Verfügung, der das Ziel betont, Nutzern dabei zu helfen, KI-Inhalte verantwortungsvoll zu erstellen und zu identifizieren.
Doch mit dem Aufkommen von KI-Videos im Allgemeinen und des Tools Veo 3 im Besonderen wird die Frage der KI-Ethik aus einer bestimmten Perspektive aufgeworfen. KI verzerrt die kulturelle Identität, da KI „hybride“ Versionen der nationalen Kultur erstellen kann, wodurch Verwirrung hinsichtlich des Ursprungs entsteht, die Seele der kulturellen Identität verloren geht und es der Gemeinschaft auf lange Sicht schwer gemacht wird, zwischen dem ursprünglichen Wert und der Variation zu unterscheiden. Verletzung kultureller Eigentumsrechte, da KI problemlos kulturelle Elemente ohne Anerkennung oder Urheberrechtsschutz sammelt, kopiert und repliziert, wodurch traditionelle Werte weit verbreitet werden. Sozialpsychologische Auswirkungen: Die häufige Konfrontation mit gefälschten Inhalten verwirrt Benutzer und lässt sie an der Echtheit aller Informationen zweifeln, was das soziale Vertrauen und gemeinsame kulturelle Werte beeinträchtigt.
„Die rasante Entwicklung dieser Technologie hat dazu geführt, dass gesetzliche Bestimmungen, Maßnahmen zum Urheberrechtsschutz und die Unterscheidung von Echtheit und Fälschung nicht mehr Schritt halten können. Dies führt zu zahlreichen Herausforderungen bei der Bewahrung und Förderung traditioneller kultureller Werte. Veo 3 ist nicht nur ein Unterhaltungstool, sondern auch ein Durchbruch für die Bereiche Kommunikation, Bildung , Marketing und sogar Kino. Neben den Chancen sind jedoch auch erhebliche Herausforderungen wie das Risiko des Technologiemissbrauchs, die Ersetzung von Menschen in der Kreativbranche und die damit verbundenen ethischen Fragen verbunden. Daher sind Richtlinien, ethische Standards und die Vermittlung digitaler Kompetenzen für die Community äußerst wichtig, damit KI wie Veo 3 verantwortungsvoll entwickelt und eingesetzt werden kann“, sagte Phan Phuoc Quoc, Direktor der GenZ Company.
Andererseits steigt mit der Weiterentwicklung von KI-Tools auch das Risiko von Cyberangriffen. Je ausgefeilter die KI-Tools zur Videoerstellung sind, desto gefährlicher wird das Risiko von Cyberangriffen mit Deepfakes. Laut Kaspersky (einem der weltweit größten Anbieter von Antivirensoftware) findet durchschnittlich alle fünf Minuten ein Deepfake-Angriff statt, und Prognosen zufolge werden bis 2026 bis zu 90 % der Online-Inhalte mithilfe von KI erstellt. Das Hauptziel von Deepfake-Angriffen sind nach wie vor normale Nutzer mit persönlichen Daten, Bank- und Zahlungsdaten.
„Das Risiko der Verbreitung falscher und gefälschter Inhalte mithilfe von Deepfake-Technologie bereitet vielen Menschen Sorgen. KI-Tools wie Veo 3 können missbraucht werden, um gefälschte Inhalte zu produzieren, die den Ruf von Einzelpersonen und Organisationen schädigen oder soziale Informationsstörungen verursachen“, sagte Vu Ngoc Son, Leiter der Abteilung für Forschung, Beratung, Technologieentwicklung und internationale Zusammenarbeit der National Cyber Security Association (NCA).
BA TAN
Quelle: https://www.sggp.org.vn/canh-giac-video-ai-phan-cam-post799084.html
Kommentar (0)