Deepfakes översvämmar OpenAIs sociala nätverk Sora, VD Sam Altman blir ett "memefenomen"

(NLDO) - AI-videoapplikationen Sora, utvecklad av OpenAI, står inför en våg av kontroverser då AI-djupförfalskningsvideor dyker upp överallt.

OpenAI har precis lanserat Sora 2, en uppgraderad version av Sora AI-applikationen, OpenAIs nya AI-baserade videosociala nätverk.

Förutom funktionen att skapa videor från text, redigera korta videor med bilder och rörelser ganska realistiskt enligt användarens beskrivning precis som originalversionen, har Sora 2 förmågan att skapa ljud och hantera fysik bättre.

OpenAIs Sora 2 tar världen med storm. Foto: CNBC

Inte nog med det, Sora 2 har uppgraderats med möjligheten att återskapa komplexa scener som hoppning, skateboardåkning eller flygning. Teknikexperter anser att detta är den mest avancerade AI-videotekniken idag.

Tillsammans med det "överfallde" OpenAI sociala nätverk med Sora-appen på iOS i USA och Kanada.

Sora-appen låter användare skapa, dela och visa AI-videor liknande TikTok eller Instagram Reels, med höjdpunkten i cameo-funktionen. Användare kan registrera sina ansikts- och röstdata för att infoga sig själva i AI-videor, vilket gör att vänner kan använda den här funktionen i delade videor.

OpenAI VD Sam Altmans AI-avatar Norm Macdonald på Sora. Skärmdump/Sora 2

Kontroverser uppstod när OpenAI-VD:n Sam Altmans cameo-framträdande offentliggjordes i Sora-appen och en serie djupförfalskade videor av hans ansikte dök upp över hela sociala medier inom 24 timmar.

Denna oväntade situation förvandlade OpenAI:s VD till ett "memefenomen" och Sora till en global "fabrik" för deepfake-produktion.

Även om det bara testades i USA och Kanada har Soras popularitet exploderat till den grad att Sora-inbjudningskoder säljs över hela eBay.

Sora 2: Teknologins höjdpunkt eller en djupförfalskningsmaskin?

Det går inte att förneka att ovanstående fenomen hjälpte Sora att "bli viral" i en svindlande hastighet. Många uttryckte dock oro om en liknande situation skulle hända politiker , kändisar eller inflytelserika personer.

En fråga väcktes, vilket förde med sig många farhågor och kontroverser: Hur hanterar OpenAI det när inflytelserika personer befinner sig i situationer som Mr. Sam Altman?

Enligt OpenAI fungerar Sora-appen på liknande sätt som andra kortvideoplattformar som TikTok, Meta Reels eller YouTube Shorts, och använder algoritmer för att föreslå innehåll baserat på användarvanor.

Den enda skillnaden är att Sora-appen är det första sociala nätverket som helt fokuserar på AI-video.

TechCrunch kommenterade att Sora 2 är tekniskt imponerande när det gäller att skapa mycket realistiska bilder. Det är dock också anledningen till att Sora lätt missbrukas för att producera negativa videor, vilket tjänar dåliga syften.

Denna konsekvens tvingade OpenAI att snabbt ta fram en säkerhetskontrollmekanism för användare i den virtuella världen .

Det är värt att notera att OpenAI sägs ha avslöjat en motsägelse i sin utvecklingsstrategi när de lanserade Sora. Företaget är fast beslutet att behålla sin image av "mänsklig säkerhet först i laboratoriet" samtidigt som de expanderar till konsumentprodukter för att hitta intäkter. "Vi behöver kapital för att utveckla AI för vetenskapen, men det är också bra att skapa produkter som får folk att le och löser driftskostnader", delade VD:n Sam Altman.

Många experter och tidigare OpenAI-anställda döljer inte sin skepsis mot teknikföretagets mål.

Sora är tekniskt sett imponerande, men det är för tidigt att vara säkra på att vi kan undvika fallgroparna hos andra sociala medieplattformar, säger professor Boaz Barak, en OpenAI-forskare vid Harvard University.

Hittills har amerikanska tillsynsmyndigheter noggrant följt OpenAI:s övergång till en vinstdrivande modell.

Samtidigt som Sora inleder en ny era för AI-video, sätter den även OpenAI i centrum för kontroverser med många motsägelser mellan de framsteg den bidrar med till underhållningsrevolutionen och de oförutsägbara farhågorna kring deepfake-videor.

Källa: https://nld.com.vn/deepfake-tran-lan-mang-xa-hoi-sora-cua-openai-ceo-sam-altman-thanh-hien-tuong-meme-19625100319140805.htm