Deepfakes oversvømmer OpenAIs sosiale nettverk Sora, administrerende direktør Sam Altman blir et «memefenomen»

OpenAI har nettopp lansert Sora 2, en oppgradert versjon av Sora AI-applikasjonen, OpenAIs nye AI-baserte videososiale nettverk.

I tillegg til funksjonen med å lage videoer fra tekst, redigere korte videoer med bilder og bevegelser ganske realistisk i henhold til beskrivelsen gitt av brukeren som den originale versjonen, har Sora 2 muligheten til å lage lyd og håndtere fysikk bedre.

Thật giả lẫn lộn trên Sora của OpenAI - Ảnh 1. — OpenAIs Sora 2 tar verden med storm. Foto: CNBC

Ikke bare det, Sora 2 har blitt oppgradert med muligheten til å gjenskape komplekse scener som hopping, skateboarding eller flyging. Teknologieksperter anser dette for å være den mest avanserte AI-videoteknologien i dag.

I tillegg til dette «overfalt» OpenAI sosiale nettverk med Sora-appen på iOS i USA og Canada.

Sora-appen lar brukere lage, dele og se AI-videoer som ligner på TikTok eller Instagram Reels, med høydepunktet som cameo-funksjonen. Brukere kan registrere ansikts- og stemmedataene sine for å sette seg selv inn i AI-videoer, slik at venner kan bruke denne funksjonen i delte videoer.

Thật giả lẫn lộn trên Sora của OpenAI - Ảnh 2. — OpenAI-sjef Sam Altmans AI-avatar Norm Macdonald på Sora. Skjermbilde/Sora 2

Kontrovers oppsto da OpenAI-sjef Sam Altmans gjesteopptreden ble offentliggjort på Sora-appen, og en serie deepfake-videoer av ansiktet hans dukket opp over hele sosiale medier i løpet av 24 timer.

Denne uventede situasjonen gjorde OpenAIs administrerende direktør til et «meme-fenomen», samt Sora til en global «fabrikk» for produksjon av deepfake-produkter.

Selv om det bare ble testet i USA og Canada, har Soras popularitet eksplodert til det punktet at Sora-invitasjonskoder selges over hele eBay.

Sora 2: Teknologiens høydepunkt eller en deepfake-maskin?

Det er ingen tvil om at fenomenet ovenfor bidro til at Sora ble «viral» i et svimlende tempo. Mange uttrykte imidlertid bekymring dersom en lignende situasjon skulle skje med politikere , kjendiser eller innflytelsesrike personer.

Et spørsmål ble reist, som førte med seg mange bekymringer og kontroverser: Hvordan håndterer OpenAI det når innflytelsesrike personer befinner seg i situasjoner som Mr. Sam Altman?

Ifølge OpenAI fungerer Sora-appen på samme måte som andre kortvideoplattformer som TikTok, Meta Reels eller YouTube Shorts, og bruker algoritmer for å foreslå innhold basert på brukervaner.

Den eneste forskjellen er at Sora-appen er det første sosiale nettverket som fokuserer utelukkende på AI-video.

TechCrunch kommenterte at Sora 2 er teknisk imponerende når det gjelder å lage svært realistiske opptak. Det er imidlertid også grunnen til at Sora lett misbrukes til å produsere negative videoer, noe som tjener dårlige formål.

Denne konsekvensen tvang OpenAI til raskt å komme opp med en sikkerhetskontrollmekanisme for brukere i den virtuelle verden .

Det er verdt å merke seg at OpenAI skal ha avslørt en motsetning i utviklingsstrategien sin da de lanserte Sora. Selskapet er fast bestemt på å opprettholde sitt «image av et laboratorium der menneskets sikkerhet først», samtidig som de ekspanderer til forbrukerprodukter for å finne inntekter. «Vi trenger kapital for å utvikle AI for vitenskap, men det er også bra å lage produkter som får folk til å smile og løser driftskostnader», delte administrerende direktør Sam Altman.

Mange eksperter og tidligere OpenAI-ansatte legger ikke skjul på sin skepsis til teknologiselskapets mål.

Sora er teknisk sett imponerende, men det er for tidlig å være sikre på at vi kan unngå fallgruvene til andre sosiale medieplattformer, sier professor Boaz Barak, en OpenAI-forsker ved Harvard University.

Til dags dato har amerikanske regulatorer nøye overvåket OpenAIs overgang til en profittbasert modell.

Samtidig som Sora åpner en ny æra for AI-video, setter den også OpenAI i sentrum for kontrovers med mange motsetninger mellom prestasjonene den bringer til underholdningsrevolusjonen og de uforutsigbare bekymringene rundt deepfake-videoer.

Kilde: https://nld.com.vn/deepfake-tran-lan-mang-xa-hoi-sora-cua-openai-ceo-sam-altman-thanh-hien-tuong-meme-19625100319140805.htm