Deepfakes überschwemmen OpenAIs soziales Netzwerk Sora, CEO Sam Altman wird zum „Meme-Phänomen“.

(NLDO) - Die von OpenAI entwickelte KI-Video-Social-Networking-Anwendung Sora sieht sich einer Welle der Kontroverse gegenüber, da überall KI-Deepfake-Videos auftauchen.

OpenAI hat soeben Sora 2 veröffentlicht, eine verbesserte Version der Sora AI-Anwendung, dem neuen KI-gestützten sozialen Netzwerk für Videos von OpenAI.

Neben der Möglichkeit, Videos aus Text zu erstellen und kurze Videos mit Bildern und Bewegungen gemäß der vom Benutzer bereitgestellten Beschreibung recht realistisch zu bearbeiten, wie es bereits in der Originalversion der Fall war, bietet Sora 2 auch die Fähigkeit, Sound zu erzeugen und die Physik besser zu handhaben.

OpenAIs Sora 2 erobert die Welt im Sturm. Foto: CNBC

Darüber hinaus wurde Sora 2 um die Fähigkeit erweitert, komplexe Szenen wie Springen, Skateboarden oder Fliegen nachzubilden. Technologieexperten halten dies für die fortschrittlichste KI-Videotechnologie, die es derzeit gibt.

Darüber hinaus hat OpenAI die sozialen Netzwerke mit der Sora-App für iOS in den USA und Kanada „überrumpelt“.

Mit der Sora-App können Nutzer KI-Videos erstellen, teilen und ansehen, ähnlich wie bei TikTok oder Instagram Reels. Das Highlight ist die Cameo-Funktion. Nutzer können ihre Gesichts- und Sprachdaten registrieren, um sich selbst in KI-Videos einzufügen. Freunde können diese Funktion dann in geteilten Videos nutzen.

Der KI-Avatar Norm Macdonald von OpenAI-CEO Sam Altman über Sora. Screenshot/Sora 2

Es kam zu Kontroversen, als ein Cameo-Auftritt von OpenAI-CEO Sam Altman in der Sora-App öffentlich gemacht wurde und innerhalb von 24 Stunden eine Reihe von Deepfake-Videos seines Gesichts in den sozialen Medien auftauchten.

Diese unerwartete Situation machte den CEO von OpenAI zu einem „Meme-Phänomen“ und Sora zu einer globalen Deepfake-Produktionsstätte.

Obwohl Sora nur in den USA und Kanada getestet wurde, ist seine Popularität so rasant gestiegen, dass Sora-Einladungscodes überall auf eBay verkauft werden.

Sora 2: Der Gipfel der Technologie oder eine Deepfake-Maschine?

Es lässt sich nicht leugnen, dass das oben beschriebene Phänomen Sora zu einem rasanten viralen Erfolg verhalf. Viele äußerten jedoch Bedenken, was passieren würde, wenn eine ähnliche Situation Politikern , Prominenten oder einflussreichen Personen widerfahren würde.

Es wurde eine Frage aufgeworfen, die viele Bedenken und Kontroversen auslöste: Wie geht OpenAI damit um, wenn einflussreiche Personen sich in Situationen wie die von Herrn Sam Altman befinden?

Laut OpenAI funktioniert die Sora-App ähnlich wie andere Kurzvideo-Plattformen wie TikTok, Meta Reels oder YouTube Shorts, indem sie Algorithmen verwendet, um Inhalte basierend auf den Nutzergewohnheiten vorzuschlagen.

Der einzige Unterschied besteht darin, dass die Sora-App das erste soziale Netzwerk ist, das sich ausschließlich auf KI-Video konzentriert.

TechCrunch merkte an, dass Sora 2 technisch beeindruckend sei und äußerst realistische Aufnahmen erzeuge. Genau das sei aber auch der Grund, warum Sora leicht für die Produktion negativer Videos missbraucht werde, die fragwürdigen Zwecken dienten.

Diese Konsequenz zwang OpenAI dazu, schnell einen Sicherheitskontrollmechanismus für Benutzer in der virtuellen Welt zu entwickeln.

Bemerkenswerterweise soll OpenAI mit der Einführung von Sora einen Widerspruch in seiner Entwicklungsstrategie offenbart haben. Das Unternehmen ist entschlossen, sein Image als Labor mit dem Fokus auf menschliche Sicherheit zu wahren und gleichzeitig in den Konsumgüterbereich zu expandieren, um Einnahmen zu generieren. „Wir benötigen Kapital, um KI für die Wissenschaft zu entwickeln, aber es ist auch wichtig, Produkte zu entwickeln, die den Menschen Freude bereiten und Betriebskosten senken“, erklärte CEO Sam Altman.

Viele Experten und ehemalige Mitarbeiter von OpenAI machen aus ihrer Skepsis gegenüber den Zielen des Technologieunternehmens keinen Hehl.

Sora ist technisch beeindruckend, aber es ist noch zu früh, um sicher zu sein, dass wir die Fallstricke anderer Social-Media-Plattformen vermeiden können, sagt Professor Boaz Barak, ein OpenAI-Forscher an der Harvard University.

Bislang haben die US-Regulierungsbehörden den Übergang von OpenAI zu einem gewinnorientierten Geschäftsmodell genau überwacht.

Sora läutet zwar eine neue Ära für KI-Videos ein, rückt OpenAI aber gleichzeitig in den Mittelpunkt von Kontroversen, da es viele Widersprüche zwischen den Errungenschaften des Unternehmens für die Unterhaltungsrevolution und den unvorhersehbaren Bedenken hinsichtlich Deepfake-Videos gibt.

Quelle: https://nld.com.vn/deepfake-tran-lan-mang-xa-hoi-sora-cua-openai-ceo-sam-altman-thanh-hien-tuong-meme-19625100319140805.htm