Deepfakes sind Videos und Bilder, die mithilfe künstlicher Intelligenz (KI) oder maschinellem Lernen (ML) digital erstellt oder verändert werden. Mit dieser Technologie erstellte Pornografie verbreitete sich erstmals vor einigen Jahren im Internet, als ein Reddit-Nutzer gefälschte Pornoclips mit den Gesichtern von Prominenten teilte.
Foto: GI
Jeder kann Opfer werden.
Seitdem veröffentlichen Deepfake-Ersteller weiterhin ähnliche Videos und Bilder, die sich gegen Online-Influencer, Journalisten und andere Personen mit öffentlichen Profilen richten. Tausende solcher Videos existieren auf zahlreichen Websites.
Da KI-Technologien immer zugänglicher werden, können Benutzer jede beliebige Person ohne deren Zustimmung in einen „Pornostar“ verwandeln oder, was noch gefährlicher ist, die Technologie nutzen, um andere zu diffamieren oder zu erpressen.
Experten gehen davon aus, dass sich das Problem durch die Entwicklung generativer KI-Tools noch verschärfen könnte, die anhand von Milliarden von Bildern aus dem Internet trainiert werden und mithilfe vorhandener Daten neue Inhalte generieren.
„Die Realität ist, dass sich Technologie weiter verbreiten, weiterentwickeln und immer zugänglicher und benutzerfreundlicher werden wird“, sagte Adam Dodge, Gründer von EndTAB, einer Gruppe, die Schulungen zum Thema Technologiemissbrauch anbietet. „Und solange das so bleibt, werden Menschen diese Technologie unweigerlich weiterhin missbrauchen, um anderen zu schaden, vor allem durch sexuelle Gewalt im Internet, Deepfake-Pornografie und gefälschte Nacktbilder.“
Noelle Martin aus Perth, Australien, hat diese Realität erlebt. Die 28-Jährige stieß vor zehn Jahren auf Deepfake-Pornos von sich selbst, als sie eines Tages aus Neugierde ihr eigenes Bild googelte. Bis heute, sagt Martin, habe sie keine Ahnung, wer die gefälschten Pornobilder oder -videos erstellt habe. Sie vermutet, dass jemand ihre Social-Media-Bilder verwendet hat, um pornografische Videos zu erstellen.
Martin versuchte, die Websites zu kontaktieren, um die Videos entfernen zu lassen, doch ihre Bemühungen waren vergeblich. Einige reagierten nicht. Andere nahmen sie zwar herunter, veröffentlichten sie aber schnell wieder. „Man kann nicht gewinnen“, sagte Martin. „Die Videos bleiben für immer im Internet und können einem das Leben ruinieren.“
Bemühungen der Technologieunternehmen, das Problem zu beheben
Einige KI-Modelle geben an, dass sie nur eingeschränkten Zugriff auf pornografische Bilder haben.
OpenAI erklärte, es habe pornografische Inhalte aus den Daten entfernt, die es zum Training seines DALL-E-Bildgenerators verwendet hatte. Dies soll das Missbrauchspotenzial einschränken. Das Unternehmen filtert außerdem Anfragen und hindert Nutzer nach eigenen Angaben daran, KI-Bilder von Prominenten und prominentenPolitikern zu erstellen. Midjourney, ein weiteres Modell, blockiert zudem die Verwendung bestimmter Schlüsselwörter und ermutigt Nutzer, problematische Bilder den Moderatoren zu melden.
Inzwischen hat Stability AI auch ein Update veröffentlicht, das Nutzer daran hindert, explizite Bilder zu erstellen. Die Änderungen erfolgen nach Berichten, wonach einige Nutzer die Technologie nutzten, um von Prominenten inspirierte Aktfotos zu erstellen.
Motez Bishara, Sprecher von Stability AI, erklärte, der Filter nutze eine Kombination aus Schlüsselwörtern und anderen Techniken wie Bilderkennung, um Nacktheit zu erkennen. Nutzer können die Software jedoch beliebig anpassen , da das Unternehmen den Open-Source-Code der App veröffentlicht hat.
Einige Social-Media-Unternehmen haben zudem ihre Regeln verschärft, um ihre Plattformen besser vor schädlichem Material zu schützen.
Letzten Monat erklärte TikTok, dass alle Deepfakes oder manipulierten Inhalte gekennzeichnet werden müssen, um darauf hinzuweisen, dass es sich um Fälschungen oder in irgendeiner Weise veränderte Inhalte handelt.
Auch die Gaming-Plattform Twitch hat kürzlich ihre Richtlinien zu Deepfakes aktualisiert, nachdem ein beliebter Streamer namens Atrioc dabei erwischt wurde, wie er während eines Livestreams Ende Januar in seinem Browser eine Deepfake-Pornoseite öffnete.
Apple und Google gaben bekannt, dass sie kürzlich eine App aus ihren App Stores entfernt hätten, weil diese zur Vermarktung ihrer Produkte sexuell anzügliche Deepfake-Videos abspielte.
Vom westlichen Sänger zum K-Pop-Idol.
Forschung zu Deepfake-Pornos ist selten, doch ein Bericht des KI-Unternehmens DeepTrace Labs aus dem Jahr 2019 ergab, dass diese fast ausschließlich gegen Frauen als Waffe eingesetzt wurden. Westliche Schauspielerinnen waren dabei am stärksten betroffen, gefolgt von K-Pop-Sängerinnen.
Meta-Sprecher Dani Lever sagte in einer Erklärung, dass die Richtlinien des Unternehmens sowohl KI-generierte als auch nicht KI-generierte Inhalte für Erwachsene einschränken und dass außerdem Deepfake-generierende App-Seiten daran gehindert werden, auf seiner Plattform Werbung zu schalten.
Im Februar beteiligten sich Meta sowie Erotikseiten wie Only**** und Porn*** an einem Online-Tool namens Take It Down. Damit können Jugendliche sexuell explizite Bilder und Videos von sich selbst im Internet melden. Die Seite unterstützt sowohl Spycam-Videos als auch KI-generierte Videos.
Hoang Ton (laut AP)
[Anzeige_2]
Quelle
Kommentar (0)