Deepfakes überfluten OpenAIs soziales Netzwerk Sora, CEO Sam Altman wird zum „Meme-Phänomen“

(NLDO) – Die von OpenAI entwickelte KI-Video-Social-Networking-Anwendung Sora sieht sich einer Welle der Kontroverse gegenüber, da überall KI-Deepfake-Videos auftauchen.

OpenAI hat gerade Sora 2 auf den Markt gebracht, eine aktualisierte Version der Sora AI-Anwendung, dem neuen KI- Video- Sozialen Netzwerk von OpenAI.

Neben der Funktion, Videos aus Text zu erstellen und kurze Videos mit Bildern und Bewegungen ganz realistisch gemäß der vom Benutzer bereitgestellten Beschreibung wie in der Originalversion zu bearbeiten, verfügt Sora 2 über die Fähigkeit, Ton zu erzeugen und die Physik besser zu handhaben.

OpenAIs Sora 2 erobert die Welt im Sturm. Foto: CNBC

Darüber hinaus wurde Sora 2 um die Fähigkeit erweitert, komplexe Szenen wie Springen, Skateboarden oder Fliegen nachzubilden. Technologieexperten halten dies für die derzeit fortschrittlichste KI-Videotechnologie.

Darüber hinaus hat OpenAI mit der Sora-App auf iOS soziale Netzwerke in den USA und Kanada „überfallen“.

Mit der Sora-App können Nutzer KI-Videos ähnlich wie bei TikTok oder Instagram Reels erstellen, teilen und ansehen. Das Highlight ist die Cameo-Funktion. Nutzer können ihre Gesichts- und Sprachdaten registrieren, um sich selbst in KI-Videos einzufügen, sodass Freunde diese Funktion in geteilten Videos nutzen können.

Der KI-Avatar Norm Macdonald von OpenAI-CEO Sam Altman über Sora. Screenshot/Sora 2

Für Kontroversen sorgte der Cameo-Auftritt von OpenAI-CEO Sam Altman in der Sora-App und innerhalb von 24 Stunden tauchten in allen sozialen Medien eine Reihe von Deepfake-Videos seines Gesichts auf.

Diese unerwartete Situation machte OpenAI CEO zu einem „Meme-Phänomen“ und Sora zu einer globalen „Fabrik“ zur Produktion von Deepfakes.

Obwohl Sora nur in den USA und Kanada getestet wurde, ist seine Popularität so stark gestiegen, dass Sora-Einladungscodes überall auf eBay verkauft werden.

Sora 2: Der Gipfel der Technologie oder eine Deepfake-Maschine?

Es lässt sich nicht leugnen, dass das oben beschriebene Phänomen dazu beigetragen hat, dass Sora mit schwindelerregender Geschwindigkeit „viral“ wurde. Viele Menschen äußerten jedoch ihre Besorgnis darüber, ob Politikern , Prominenten oder einflussreichen Personen eine ähnliche Situation passieren könnte.

Es wurde eine Frage aufgeworfen, die viele Bedenken und Kontroversen mit sich bringt: Wie geht OpenAI damit um, wenn einflussreiche Personen sich in Situationen wie Herr Sam Altman befinden?

Laut OpenAI funktioniert die Sora-App ähnlich wie andere Kurzvideoplattformen wie TikTok, Meta Reels oder YouTube Shorts und verwendet Algorithmen, um Inhalte basierend auf den Benutzergewohnheiten vorzuschlagen.

Der einzige Unterschied besteht darin, dass die Sora-App das erste soziale Netzwerk ist, das sich vollständig auf KI-Videos konzentriert.

TechCrunch kommentierte, dass Sora 2 technisch beeindruckend realistische Aufnahmen erstellt. Dies ist jedoch auch der Grund, warum Sora leicht missbraucht wird, um negative Videos zu produzieren, die schlechten Zwecken dienen.

Diese Konsequenz zwang OpenAI dazu, schnell einen Sicherheitskontrollmechanismus für Benutzer in der virtuellen Welt zu entwickeln.

OpenAI soll mit der Einführung von Sora einen Widerspruch in seiner Entwicklungsstrategie offengelegt haben. Das Unternehmen ist entschlossen, sein Image als Labor mit der Sicherheit des Menschen an erster Stelle beizubehalten und gleichzeitig in den Bereich der Verbraucherprodukte zu expandieren, um Umsatz zu erzielen. „Wir brauchen Kapital, um KI für die Wissenschaft zu entwickeln, aber es ist auch gut, Produkte zu entwickeln, die Menschen zum Lächeln bringen und Betriebskosten senken“, erklärte CEO Sam Altman.

Viele Experten und ehemalige OpenAI-Mitarbeiter verbergen ihre Skepsis gegenüber den Zielen des Technologieunternehmens nicht.

„Sora ist technisch beeindruckend, aber es ist noch zu früh, um zuversichtlich zu sein, dass wir die Fallstricke anderer Social-Media-Plattformen vermeiden können“, sagt Professor Boaz Barak, ein OpenAI-Forscher an der Harvard University.

Bislang haben die US-Regulierungsbehörden den Übergang von OpenAI zu einem gewinnorientierten Modell aufmerksam beobachtet.

Sora läutet zwar eine neue Ära für KI-Videos ein, rückt OpenAI aber auch in den Mittelpunkt kontroverser Diskussionen, da es viele Widersprüche zwischen den Errungenschaften gibt, die es für die Unterhaltungsrevolution mit sich bringt, und den unvorhersehbaren Problemen im Zusammenhang mit Deepfake-Videos.

Quelle: https://nld.com.vn/deepfake-tran-lan-mang-xa-hoi-sora-cua-openai-ceo-sam-altman-thanh-hien-tuong-meme-19625100319140805.htm