Deepfakes overspoelen OpenAI's sociale netwerk Sora, CEO Sam Altman wordt een "meme-fenomeen"

(NLDO) - De door OpenAI ontwikkelde AI-video-app voor sociale netwerken Sora wordt geconfronteerd met een golf van controverse nu AI-deepfakevideo's overal opduiken.

OpenAI heeft zojuist Sora 2 gelanceerd, een verbeterde versie van de Sora AI-applicatie, het nieuwe sociale AI- videonetwerk van OpenAI.

Naast de mogelijkheid om video's te maken van tekst en korte video's te bewerken met afbeeldingen en bewegingen die vrij realistisch zijn volgens de beschrijving van de gebruiker, net als in de originele versie, heeft Sora 2 de mogelijkheid om geluid te maken en beter met natuurkunde om te gaan.

Sora 2 van OpenAI verovert de wereld. Foto: CNBC

Bovendien is Sora 2 geüpgraded met de mogelijkheid om complexe scènes zoals springen, skateboarden of vliegen na te bootsen. Technologie-experts beschouwen dit als de meest geavanceerde AI-videotechnologie van dit moment.

Daarnaast heeft OpenAI sociale netwerken in de VS en Canada overvallen met de Sora-app voor iOS.

Met de Sora-app kunnen gebruikers AI-video's maken, delen en bekijken, net als met TikTok of Instagram Reels, met als hoogtepunt de cameofunctie. Gebruikers kunnen hun gezicht en stem registreren om zichzelf in AI-video's te plaatsen, zodat vrienden deze functie kunnen gebruiken in gedeelde video's.

OpenAI-CEO Sam Altman's AI-avatar Norm Macdonald op Sora. Schermafbeelding/Sora 2

Er ontstond controverse toen de cameo van OpenAI CEO Sam Altman openbaar werd gemaakt in de Sora-app en er binnen 24 uur een reeks deepfake-video's van zijn gezicht overal op sociale media verschenen.

Deze onverwachte situatie maakte van de CEO van OpenAI een "meme-fenomeen" en van Sora een wereldwijde deepfake-productie"fabriek".

Hoewel het spel alleen in de VS en Canada werd getest, is de populariteit van Sora zo enorm toegenomen dat er nu overal op eBay uitnodigingscodes van Sora te koop zijn.

Sora 2: Het toppunt van technologie of een deepfake-machine?

Het valt niet te ontkennen dat bovenstaand fenomeen ervoor heeft gezorgd dat Sora razendsnel "viraal" is gegaan. Veel mensen uitten echter hun bezorgdheid als een soortgelijke situatie zich zou voordoen bij politici , beroemdheden of invloedrijke mensen.

Er werd een vraag gesteld die veel zorgen en controverses met zich meebracht: hoe gaat OpenAI om met invloedrijke mensen die in situaties terechtkomen zoals de heer Sam Altman?

Volgens OpenAI werkt de Sora-app op een vergelijkbare manier als andere platforms voor korte video's, zoals TikTok, Meta Reels of YouTube Shorts. Er worden algoritmes gebruikt om content voor te stellen op basis van de gewoonten van gebruikers.

Het enige verschil is dat de Sora-app het eerste sociale netwerk is dat zich volledig richt op AI-video.

TechCrunch merkte op dat Sora 2 technisch indrukwekkend is in het maken van zeer realistische beelden. Dat is echter ook de reden waarom Sora gemakkelijk misbruikt kan worden om negatieve video's te produceren, die slechte doelen dienen.

Deze consequentie dwong OpenAI om snel een veiligheidscontrolemechanisme te bedenken voor gebruikers in de virtuele wereld .

OpenAI zou met name een tegenstrijdigheid in zijn ontwikkelingsstrategie hebben blootgelegd bij de lancering van Sora. Het bedrijf is vastbesloten om zijn imago van "laboratorium waar menselijke veiligheid voorop staat" te behouden en tegelijkertijd uit te breiden naar consumentenproducten om inkomsten te genereren. "We hebben kapitaal nodig om AI voor de wetenschap te ontwikkelen, maar het is ook goed om producten te creëren die mensen blij maken en operationele kosten oplossen", aldus CEO Sam Altman.

Veel experts en voormalige OpenAI-medewerkers verbergen hun scepsis over de doelstellingen van het technologiebedrijf niet.

Sora is technisch indrukwekkend, maar het is nog te vroeg om er zeker van te zijn dat we de valkuilen van andere socialemediaplatforms kunnen vermijden, zegt professor Boaz Barak, OpenAI-onderzoeker aan de Harvard University.

Tot op heden hebben Amerikaanse toezichthouders de overstap van OpenAI naar een winstgericht model nauwlettend gevolgd.

Terwijl Sora een nieuw tijdperk voor AI-video inluidt, plaatst het OpenAI ook in het middelpunt van controverse vanwege de vele tegenstrijdigheden tussen de prestaties die het levert aan de entertainmentrevolutie en de onvoorspelbare zorgen van deepfake-video's.

Bron: https://nld.com.vn/deepfake-tran-lan-mang-xa-hoi-sora-cua-openai-ceo-sam-altman-thanh-hien-tuong-meme-19625100319140805.htm