Das neue Videoerstellungstool von OpenAI versetzt Prominentenfamilien in eine Krise, da Bilder verstorbener Angehöriger von der KI in beleidigenden, verzerrten und manchmal demütigenden Videos „wieder zum Leben erweckt“ werden.
KI-generierte Videos von Verstorbenen, von Malcolm X über Whitney Houston bis hin zu Kobe Bryant, haben für Aufsehen gesorgt und Fragen nach ethischen Grenzen und der Bildkontrolle im Zeitalter der KI aufgeworfen.
Anstößige Inhalte
Ilyasah Shabazz, die Tochter des Bürgerrechtlers Malcolm X, möchte keine KI-generierten Videos ihres Vaters sehen. Diese Videos wurden mit Sora 2, dem neuen Text-zu-Video-Tool von OpenAI, erstellt und zeigen Malcolm X, wie er derbe Witze erzählt und mit Reverend Martin Luther King streitet.
„Es ist respektlos und herzzerreißend, mitanzusehen, wie das Bild meines Vaters auf solch sinnlose Weise missbraucht wird. Ich verstehe nicht, warum die Entwickler dieser Technologie nicht mit dem gleichen Gewissen und der gleichen Sorgfalt handeln, die sie gegenüber ihrer eigenen Familie an den Tag legen würden“, sagte Shabazz der Washington Post .
 |
Sora 2 erstellt Videos aus Bildern Verstorbener ohne deren Einwilligung. Foto: Bloomberg . |
Sora 2 entwickelte sich dank seiner Fähigkeit, unglaublich realistische Videos zu erstellen, schnell zu einem globalen Phänomen. Innerhalb weniger Tage nach dem Start schoss die App an die Spitze der Download-Charts. Die rasante Verbreitung führte jedoch auch dazu, dass in den sozialen Medien zahlreiche gefälschte Promi-Videos auftauchten.
Die „wiederauferstandenen“ Bilder von Michael Jackson, Elvis Presley und Amy Winehouse verbreiteten sich in schwindelerregender Geschwindigkeit, sodass viele Betrachter nicht mehr zwischen echt und gefälscht unterscheiden konnten.
Manche Videos sollen lustig sein, wie das, in dem Fred Rogers, der Moderator von „Mr. Rogers’ Neighborhood“, mit Tupac Shakur rappt. Aber ein Großteil des produzierten Inhalts ist einfach zu viel.
Unter anderem sorgten ein Video, das Whitney Houston in einem betrunkenen Zustand durch eine gefälschte Kameraperspektive der Polizei nachstellte, ein Hubschrauberflug von Kobe Bryant bei dem Unfall, bei dem er und seine Tochter ums Leben kamen, und ein Witz des ehemaligen Präsidenten John F. Kennedy über die Ermordung eines zeitgenössischen Politikers für Wut in der Gemeinde.
Lockere Vorschriften
Die Richtlinien von OpenAI besagen, dass das Tool nur mit der Einwilligung der Betroffenen reale Personen simulieren kann. Bei der kürzlich erfolgten Veröffentlichung nahm das Unternehmen jedoch „historische Persönlichkeiten“ von dieser Regel aus und erlaubte Nutzern somit, Videos von Verstorbenen frei zu erstellen. Diese Entscheidung hat viele Angehörige von Opfern verärgert.
Zelda Williams, die Tochter des verstorbenen Schauspielers Robin Williams, teilte auf Instagram mit, dass ihr ständig KI-Videos ihres Vaters zugeschickt würden und bat die Leute inständig, damit aufzuhören.
„Es ist verrückt zu sehen, wie das Vermächtnis realer Menschen auf schreckliche Eskapaden reduziert wird, die von TikTok kontrolliert werden“, sagte Zelda.
 |
Die Nutzungsregeln von OpenAI für Sora 2 weisen zahlreiche Schlupflöcher auf. Foto: Bloomberg . |
Experten zufolge markiert dieses Phänomen einen Wendepunkt in der KI-Technologie, an dem die Grenze zwischen Kreativität und Beleidigung verschwimmt. Henry Ajder, ein Deepfake-Forscher, sagte, die „synthetische Wiederauferstehung“ der Toten werfe grundlegende Fragen zur Kontrolle des persönlichen Images und des eigenen Vermächtnisses auf.
„Wenn man Bilder von Prominenten verwendet, um Inhalte zu erstellen, wird das sicherlich viele Aufrufe generieren. Aber bei Verstorbenen stellt sich eine tiefere Frage: Wem gehören ihre Erinnerungen und ihre Identität?“, sagte Ajder.
Als Reaktion auf die Proteste erklärte OpenAI, dass Vertreter kürzlich verstorbener Persönlichkeiten des öffentlichen Lebens beantragen könnten, dass deren Bilder in Sora-Videos gesperrt werden. „Wir sind der Ansicht, dass Persönlichkeiten des öffentlichen Lebens und ihre Familien die Kontrolle darüber haben sollten, wie ihre urheberrechtlich geschützten Bilder verwendet werden“, so ein Sprecher von OpenAI.
Mehrere Organisationen der US-amerikanischen Unterhaltungsindustrie haben ebenfalls ihre Bedenken geäußert. Die Creative Artists Agency, die Managementagentur vieler Hollywood-Stars, erklärte, Sora 2 gefährde Kunden und geistiges Eigentum ernsthaft. Die Motion Picture Association of America (MPAA) forderte OpenAI auf, „unverzüglich und entschieden“ Maßnahmen zum Schutz der Rechte von Urhebern zu ergreifen.
Nicht nur Künstler, auch historische Persönlichkeiten sind schon Opfer geworden. In einem von Sora erstellten Video ist Winston Churchill zu sehen, wie er für JetBlue wirbt oder auf anzügliche Internetwitze anspielt.
Quelle: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html
Kommentar (0)