Deepfake-Pornos, ein Problem im KI-Wettlauf

Deepfakes sind Videos und Bilder, die mithilfe künstlicher Intelligenz (KI) oder maschinellem Lernen (ML) erstellt oder digital verändert werden. Pornografische Inhalte, die mit dieser Technologie erzeugt wurden, kursierten erstmals vor einigen Jahren im Internet, als ein Reddit-Nutzer gefälschte Pornoclips mit den Gesichtern von Prominenten teilte.

Foto: GI

Jeder kann zum Opfer werden.

Seitdem veröffentlichen Deepfake-Ersteller unentwegt ähnliche Videos und Bilder, die sich an Online-Influencer, Journalisten und andere Personen mit öffentlichen Profilen richten. Tausende solcher Videos existieren auf zahlreichen Websites.

Da KI-Technologien immer zugänglicher werden, können Benutzer jeden, den sie wollen, ohne dessen Zustimmung in einen "Pornostar" verwandeln oder, noch gefährlicher, diese Technologie nutzen, um andere zu diffamieren oder zu erpressen.

Experten befürchten, dass sich das Problem durch die Entwicklung allgemeiner KI-Tools, die mit Milliarden von Bildern aus dem Internet trainiert werden und mithilfe vorhandener Daten neue Inhalte generieren, noch verschärfen könnte.

„Die Realität ist, dass sich Technologie immer weiter verbreiten, weiterentwickeln und immer einfacher und zugänglicher werden wird“, sagte Adam Dodge, Gründer von EndTAB, einer Organisation, die Schulungen zum Thema Technologiemissbrauch anbietet. „Und solange das so weitergeht, werden Menschen diese Technologie weiterhin missbrauchen, um anderen zu schaden, vor allem durch sexuelle Gewalt im Internet, Deepfake-Pornografie und gefälschte Nacktheit.“

Noelle Martin aus Perth, Australien, hat dies am eigenen Leib erfahren. Die 28-Jährige entdeckte vor zehn Jahren ihre eigenen Deepfake-Pornobilder, als sie aus Neugier bei Google nach Fotos von sich selbst suchte. Bis heute weiß Martin nicht, wer diese gefälschten Bilder oder Videos erstellt hat. Sie vermutet, dass jemand Bilder aus ihren sozialen Medien verwendet hat, um die Pornovideos zu erstellen.

Trotz Martins Versuchen, die Webseiten zu kontaktieren und die Videos entfernen zu lassen, blieben ihre Bemühungen erfolglos. Einige reagierten gar nicht. Andere nahmen die Videos zwar offline, luden sie aber umgehend wieder hoch. „Man kann es einfach nicht allen recht machen“, sagte Martin. „Die Videos bleiben für immer im Internet und könnten dein Leben ruinieren.“

Die Bemühungen der Technologieunternehmen, die Situation zu bereinigen.

Einige KI-Modelle haben angegeben, dass sie den Zugriff auf pornografische Bilder eingeschränkt haben.

OpenAI gibt an, pornografische Inhalte aus den Trainingsdaten seines Bildgenerierungstools DALL-E entfernt zu haben, um Missbrauch zu verhindern. Das Unternehmen filtert zudem Anfragen und blockiert die Erstellung von KI-Bildern von Prominenten und prominenten Politikern . Auch Midjourney, ein weiteres Modell, blockiert die Verwendung bestimmter Schlüsselwörter und fordert Nutzer auf, problematische Bilder den Moderatoren zu melden.

Stability AI hat außerdem ein Update veröffentlicht, um zu verhindern, dass Nutzer sensible Bilder erstellen. Diese Änderungen erfolgen, nachdem Berichte aufgetaucht waren, wonach einige Nutzer mithilfe der Technologie Nacktfotos von Prominenten angefertigt hatten.

Laut Motez Bishara, Sprecher von Stability AI, nutzt der Filter eine Kombination aus Schlüsselwörtern und anderen Techniken wie Bilderkennung, um Nacktheit zu erkennen. Da das Unternehmen den Quellcode der Anwendung veröffentlicht hat, können Nutzer die Software jedoch nach Belieben anpassen und beliebige Inhalte erstellen.

Einige Social-Media-Unternehmen haben außerdem ihre Regeln verschärft, um ihre Plattformen besser vor schädlichen Inhalten zu schützen.

Im vergangenen Monat erklärte TikTok, dass alle Deepfake- oder manipulierten Inhalte gekennzeichnet werden müssen, um anzuzeigen, dass sie gefälscht sind oder in irgendeiner Weise verändert wurden.

Die Gaming-Plattform Twitch hat kürzlich ihre Richtlinien zu Deepfake-Bildern aktualisiert, nachdem festgestellt wurde, dass ein beliebter Streamer namens Atrioc Ende Januar während eines Livestreams über seinen Browser auf eine Deepfake-Pornowebsite zugegriffen hatte.

Apple und Google haben kürzlich bekannt gegeben, dass sie eine App aus ihren App Stores entfernt haben, weil diese sexuell anzügliche Deepfake-Videos zur Vermarktung von Produkten verwendete.

Von westlichen Sängern bis hin zu K-Pop-Idolen.

Forschungen zu Deepfake-Pornos sind selten, aber ein Bericht des KI-Unternehmens DeepTrace Labs aus dem Jahr 2019 ergab, dass sie fast ausschließlich gegen Frauen eingesetzt werden, wobei westliche Schauspielerinnen am häufigsten ins Visier genommen werden, gefolgt von K-Pop-Sängerinnen.

Meta-Sprecherin Dani Lever erklärte in einer Stellungnahme, dass die Unternehmensrichtlinie sowohl KI-generierte als auch nicht-KI-generierte Inhalte für Erwachsene einschränkt und außerdem die Werbung auf der Seite der Deepfake-Erstellungs-App auf ihrer Plattform untersagt.

Im Februar begann Meta, zusammen mit anderen Erwachsenenwebseiten wie Only**** und Porn***, an dem Online-Tool „Take It Down“ teilzunehmen. Dieses ermöglicht es Jugendlichen, ihre eigenen pornografischen Bilder und Videos aus dem Internet zu melden. Die Webseite unterstützt sowohl heimlich gefilmte als auch KI-generierte Videos.

Hoang Ton (laut AP)

Quelle: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html