Elon Musks GrokAI erstellt Pornoclips

Eine neue Funktion von Grok, dem xAI-Chatbot von Elon Musk, sorgt für großes Aufsehen, da sie die Erstellung pornografischer Videos von Prominenten erleichtert.

Grok erstellte mit wenigen Klicks pornografische Inhalte der Sängerin Taylor Swift. Foto: AOL .

Grok, das KI- Videoerstellungstool von xAI, das Elon Musk gehört, hat gerade einen umstrittenen und möglicherweise rechtlich riskanten neuen Modus eingeführt.

Im Gegensatz zu Konkurrenten wie Googles Veo und OpenAIs Sora, die über integrierte, strenge Sicherheitsvorkehrungen verfügen, können Benutzer mit Grok Imagine problemlos sowohl pornografische Inhalte als auch Deepfakes von Prominenten erstellen, was ein großes Risiko für Technologieplattformen darstellt.

Laut einem Test von The Verge erstellte Grok bei seiner ersten Verwendung automatisch halbnackte Videos der Sängerin Taylor Swift. Es ist erwähnenswert, dass dieses Tool trotz unaufgeforderter Benutzereingabe pornografische Inhalte erstellte.

Mit der Funktion „Gok Imagine“ auf iOS können Benutzer Bilder aus Text erstellen und diese dann in kurze Videoclips mit vier Modi umwandeln: „Benutzerdefiniert“, „Normal“, „Lustig“ und „Heiß“.

Im Gegensatz zu vielen anderen Bildgeneratoren, die es normalerweise vermeiden, Prominente nachzubilden, lieferte Grok auf die Anfrage, „Taylor Swift feiert beim Coachella-Fest“ zu erstellen, mehr als 30 Bilder, von denen viele die Sängerin in leicht bekleideter Kleidung zeigten.

Groks Bild von Taylor Swift in einem knappen Outfit. Foto: TheVerge.

Laut dem Test kann Grok mit wenigen Handgriffen ein Foto von Taylor Swift in ein pornografisches Video verwandeln. Konkret: Nachdem der Nutzer ein verfügbares Foto ausgewählt und den „Hot“-Modus aktiviert hat, erstellt das System automatisch ein Video, in dem die Sängerin strippt und in Dessous tanzt.

Das Bild von Taylor Swift ist zwar nicht ganz authentisch, aber dennoch erkennbar genug. Bemerkenswert ist, dass Groks Bildgenerator auf Anfrage keine Nacktbilder generiert. Der Wechsel in den „Hot“-Modus erzeugt zwar nicht immer vollständige Nacktheit, aber in vielen Fällen strippt die Person im Video trotzdem automatisch.

Der Bildgenerator von Grok kann realistische Kinderfotos erstellen. Allerdings weigerte sich das Tool, unangemessene Animationen zu erstellen, obwohl der Nutzer den „Hot“-Modus wählte. In allen Tests fügte Grok nur normale Bewegungen hinzu, was darauf hindeutet, dass der Kinderschutzmechanismus weiterhin funktioniert.

xAI, das Unternehmen, das in die Kontroverse um den Taylor Swift-Deepfake verwickelt war, hätte vorsichtiger sein sollen, insbesondere angesichts der verschärften gesetzlichen Bestimmungen zur Promi-Pornografie.

Während die Nutzungsrichtlinien von xAI die Erstellung pornografischer Inhalte aus Fotos anderer Personen verbieten, scheint Grok Imagine keine Maßnahmen zu ergreifen, um Benutzer daran zu hindern, Bilder von Prominenten wie Taylor Swift zu verwenden.

Das Tool bietet sogar einen Service, der speziell für die Erstellung pornografischer Videos konzipiert ist. Auffällig ist, dass die Altersprüfung des Systems sehr lasch ist, nur einmal erfolgt und ohne Identitätsnachweis leicht umgangen werden kann.

Dank der Zensurlücken kann jeder mit einem iPhone und einem 30-Dollar -Abonnement von SuperGrok ähnlich explizite Videos erstellen. Laut Elon Musk wurden seit Montag mit Grok Imagine über 34 Millionen Bilder erstellt, was darauf hindeutet, dass die Nutzung des Tools „wie ein Lauffeuer wächst“.

Quelle: https://znews.vn/ai-cua-elon-musk-tao-noi-dung-khieu-dam-cua-nguoi-noi-tieng-post1574660.html