Deepfakes zaplavily sociální síť OpenAI, Sora a generální ředitel Sam Altman se stali „meme fenoménem“

(NLDO) - Aplikace Sora pro sociální síť s využitím umělé inteligence, kterou vyvinula společnost OpenAI, čelí vlně kontroverzí, protože se všude objevují deepfake videa s využitím umělé inteligence.

Společnost OpenAI právě spustila aplikaci Sora 2, vylepšenou verzi aplikace Sora AI, nové sociální sítě OpenAI pro video s využitím umělé inteligence.

Kromě funkce vytváření videí z textu, realistické úpravy krátkých videí s obrázky a pohyby podle popisu poskytnutého uživatelem, stejně jako v původní verzi, má Sora 2 schopnost lépe vytvářet zvuk a zvládat fyziku.

Sora 2 od OpenAI dobývá svět. Foto: CNBC

Nejen to, Sora 2 byla vylepšena o schopnost znovu vytvořit složité scény, jako je skákání, jízda na skateboardu nebo létání. Technologičtí experti to považují za nejpokročilejší technologii umělé inteligence pro tvorbu videa současnosti.

Spolu s tím OpenAI „přepadla“ sociální sítě pomocí aplikace Sora pro iOS v USA a Kanadě.

Aplikace Sora umožňuje uživatelům vytvářet, sdílet a prohlížet videa s umělou inteligencí podobná TikToku nebo Instagram Reels, přičemž hlavní výhodou je funkce cameo. Uživatelé si mohou zaregistrovat data svého obličeje a hlasu a vložit se do videí s umělou inteligencí, což umožňuje přátelům používat tuto funkci ve sdílených videích.

Avatar AI generálního ředitele OpenAI Sama Altmana Norm Macdonald na Soře. Snímek obrazovky/Sora 2

Kontroverze vznikla, když se v aplikaci Sora objevil cameo generálního ředitele OpenAI Sama Altmana a na sociálních sítích se během 24 hodin objevila série deepfake videí s jeho obličejem.

Tato neočekávaná situace proměnila generálního ředitele OpenAI ve „fenomén memů“ a ze Sory v globální „továrnu“ na výrobu deepfakeů.

Ačkoli byl testován pouze v USA a Kanadě, popularita Sory explodovala natolik, že se pozvánkové kódy Sory prodávají po celém eBayi.

Sora 2: Vrchol technologie, nebo deepfake stroj?

Nelze popřít, že výše uvedený jev pomohl Sorovi „zvírálně se šířit“ závratnou rychlostí. Mnoho lidí však vyjádřilo obavy, pokud by se podobná situace stala politikům , celebritám nebo vlivným lidem.

Byla vznesena otázka, která s sebou přinesla mnoho obav a kontroverzí: Jak se OpenAI vypořádá s tím, když se vlivní lidé ocitnou v situacích, jako je pan Sam Altman?

Podle OpenAI funguje aplikace Sora podobně jako jiné platformy pro krátká videa, jako je TikTok, Meta Reels nebo YouTube Shorts, a využívá algoritmy k navrhování obsahu na základě uživatelských zvyklostí.

Jediný rozdíl je v tom, že aplikace Sora je první sociální sítí, která se zaměřuje výhradně na video s využitím umělé inteligence.

Server TechCrunch poznamenal, že Sora 2 je technicky působivá, pokud jde o vytváření vysoce realistických záběrů. To je však také důvod, proč je Sora snadno zneužita k tvorbě negativních videí, která slouží špatným účelům.

Tento důsledek donutil OpenAI rychle přijít s mechanismem kontroly bezpečnosti pro uživatele ve virtuálním světě .

Je pozoruhodné, že OpenAI údajně odhalila rozpor ve své vývojové strategii při spuštění Sora. Společnost je odhodlána udržet si image „laboratoře, kde je bezpečnost lidí na prvním místě“ a zároveň expandovat do spotřebitelských produktů, aby našla příjmy. „Potřebujeme kapitál na vývoj umělé inteligence pro vědu, ale je také dobré vytvářet produkty, které lidem vykouzlí úsměv na tváři a řeší provozní náklady,“ sdělil generální ředitel Sam Altman.

Mnoho expertů a bývalých zaměstnanců OpenAI se netají svou skepsí ohledně cílů technologické společnosti.

Sora je technicky působivá, ale je příliš brzy na to, abychom si byli jisti, že se dokážeme vyhnout úskalím jiných platforem sociálních médií, říká profesor Boaz Barak, výzkumník OpenAI na Harvardově univerzitě.

Američtí regulátoři dosud pečlivě sledovali přechod OpenAI k ziskovému modelu.

Sora sice otevírá novou éru pro videa s umělou inteligencí, ale zároveň staví OpenAI do centra kontroverzí s mnoha rozpory mezi úspěchy, které přináší do zábavní revoluce, a nepředvídatelnými obavami deepfake videí.

Zdroj: https://nld.com.vn/deepfake-tran-lan-mang-xa-hoi-sora-cua-openai-ceo-sam-altman-thanh-hien-tuong-meme-19625100319140805.htm