Das neue Deepfake-KI-Tool von ByteDance gibt Anlass zur Sorge

[Anzeige_1]

Laut TechSpot hat ByteDance – der chinesische Technologiekonzern hinter TikTok – gerade OmniHuman-1 angekündigt – ein Deepfake-System, das menschliche Bilder unglaublich realistisch nachbilden kann. Mit OmniHuman-1 erstellte Videos können den durchschnittlichen Zuschauer täuschen und die Grenze zwischen echt und gefälscht in digitalen Inhalten verwischen.

Công cụ AI deepfake mới của ByteDance gây nhiều lo ngại- Ảnh 1. — In vielen der von OmniHuman-1 erstellten Videos sind Albert Einstein, Jensen Huang und viele andere zu sehen, was zeigt, wie unglaublich realistisch Deepfakes sein können.

Im Gegensatz zu früheren Deepfake-Modellen benötigt OmniHuman-1 nur ein Foto und einen Audioclip, um ein vollständiges Video zu erstellen. Benutzer können das Seitenverhältnis und die Körperzusammensetzung anpassen oder sogar Bewegungen in vorhandenen Videos bearbeiten. Diese KI (künstliche Intelligenz) kann Handbewegungen und Gesten mit hoher Präzision ändern, wodurch das Produkt natürlicher aussieht. Einige Details sind jedoch noch nicht perfekt, wie etwa die unnatürliche Pose beim Halten eines Weinglases oder die seltsam verdrehte Hand in einem Video, das Albert Einsteins Vorlesung simuliert.

Das Modell wurde anhand von 18.700 Stunden Videomaterial trainiert, wobei ein „Omni-Conditions“-Ansatz verwendet wurde, um aus einer Vielzahl von Datenquellen zu lernen, darunter Text, Audio und Körperbewegungen.

Trotz des technischen Fortschritts birgt die Deepfake-Technologie auch ernsthafte Risiken. In den letzten Jahren wurden Deepfakes missbraucht, um Informationen zu manipulieren, Finanzbetrug zu begehen und den Ruf von Personen anzugreifen. Bei der Wahl 2024 wurden viele Deepfake-Videos verwendet, um die Wähler in die Irre zu führen. Im vergangenen Jahr wurden durch Finanzbetrug mit Deepfakes Milliarden von Dollar gestohlen. In einem Fall gab sich ein Betrüger als Schauspieler Brad Pitt aus, um eine Frau dazu zu bringen, 850.000 Dollar zu überweisen.

Viele Experten für KI-Ethik sind besorgt über diese Risiken und fordern daher Vorschriften zur Kontrolle von Deepfakes. Mehrere US-Bundesstaaten haben Gesetze gegen schädliche Deepfakes erlassen, es fehlt jedoch noch immer ein umfassender bundesweiter Rechtsrahmen. Kalifornien hat einen Gesetzesentwurf vorgelegt, der es Gerichten ermöglichen würde, die Entfernung von Deepfakes zu erzwingen und diejenigen zu bestrafen, die sie verbreiten. Der Gesetzgebungsprozess ist jedoch mit zahlreichen Hindernissen konfrontiert.

ByteDance hat derzeit keine Pläne zur Veröffentlichung von OmniHuman-1 angekündigt, es wurde jedoch ein Forschungspapier zu diesem Modell veröffentlicht, das das Potenzial und die Risiken der wachsenden Deepfake-Technologie aufzeigt.

[Anzeige_2]
Quelle: https://thanhnien.vn/cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai-18525020521585617.htm