Když se znovu podívala, uvědomila si, že se jedná pouze o fotografii vytvořenou umělou inteligencí, kterou použila facebooková stránka k ilustraci sentimentálního příspěvku. Za zmínku stojí, že to bylo podruhé, co ji umělá inteligence „téměř“ oklamala. Předtím si také spletla video „‚důchodci‘ setkávají s ‚letními rekreanty‘“ se skutečnými lidmi a skutečnými událostmi.

Paní Linh, která pracuje v mediální oblasti a je pravidelně vystavena obsahu s umělou inteligencí, musela uznat, že tato technologie se vyvinula tak rychle a sofistikovaně, že je obtížné rozlišit mezi skutečným a falešným.

snímek obrazovky 1749203761184.png
Virální fotku na Facebooku vytvořila umělá inteligence. Snímek obrazovky.

S tímto názorem souhlasí i odborníci. Nástroje jako Google Veo 3, Kling AI, DALL·E 3, Midjourney... dosáhly schopnosti vytvářet neuvěřitelně realistické obrázky a videa.

Pan Do Nhu Lam, ředitel pro vzdělávání v Institutu pro blockchainovou technologii a umělou inteligenci ABAII, poukázal na to, že díky multimodální technologii a pokročilým jazykovým modelům mohou tyto nástroje synchronizovat obrázky, zvuky, výrazy obličeje a přirozené pohyby, a vytvářet tak vysoce přesvědčivé produkty.

W-Fotografie od pana Do Nhu Lama.jpg
Pan Do Nhu Lam, ředitel pro vzdělávání v Institutu pro blockchainovou technologii a umělou inteligenci ABAII, uvedl, že pokročilá technologie umělé inteligence přináší velmi přesvědčivé produkty. Foto: NVCC

Pan Lam poznamenal, že pokroky v oblasti umělé inteligence otevírají velký potenciál v oblastech, jako je tvorba obsahu, reklama, zábava a vzdělávání . Tato „realistická“ schopnost reprodukce však zároveň představuje mnoho výzev v oblasti etiky, kontroly a informační bezpečnosti, protože hranice mezi realitou a virtualitou se stále více stírá.

Příspěvek na Facebooku, který paní Linh viděla, přilákal téměř 300 000 interakcí a více než 16 000 komentářů. Mnoho uživatelů se vrhlo s gratulací nebo vyjádřením svých pocitů, aniž by věděli, že se jedná pouze o ilustraci umělé inteligence. Někteří „střízlivější“ lidé kritizovali „uživatele internetu“ za to, že jsou příliš naivní, aby se nechali umělou inteligencí oklamat.

Na facebookových skupinách a fórech není těžké vidět videa s umělou inteligencí, která uživatelé vytvářejí a sdílejí. Zejména vzhled Google Veo 3 výrazně zvýšil kvalitu videí, a to zejména hlasu, který odpovídá tvaru úst postavy. Pokud nevěnujete pozornost a nesledujete pozorně, diváci se mohou snadno zmást.

Zachovat si zdravý rozum ve věku umělé inteligence

Fotografie a videa pořízené umělou inteligencí je obtížné rozlišit, což představuje velké riziko pro uživatele, zejména pro zranitelné skupiny, které nejsou technologicky zdatné. Podle pana Vu Thanha Thanga - ředitele pro umělou inteligenci (CAIO) společnosti SCS Cyber ​​​​Security Joint Stock Company, je umělá inteligence využívána kyberzločinci k podvodům (obejití biometrických systémů, eKYC...), vydávání se za slavné osobnosti za účelem šíření falešných informací a způsobování veřejného zmatku. Existuje mnoho případů, kdy technologicky vyspělí zločinci zneužívají umělou inteligenci k vytváření deepfake fotografií, vydávají se za příbuzné za účelem videohovorů s cílem vymlouvat peníze.

Pan Vu Thanh Thang.jpg
Pan Vu Thanh Thang - ředitel oddělení umělé inteligence (CAIO) společnosti SCS Cyber ​​​​Security Joint Stock Company - uvedl, že jsme vstoupili do éry, kdy lze všechno zfalšovat. Foto: NVCC

Podle pana Thanga jsou podniky také potenciálními cíli zločinců s umělou inteligencí. Mohou používat AI Deepfake k vydávání se za zaměstnance, obcházení bezpečnostních systémů k odemčení docházky a vydávání se za vedoucí pracovníky firem k pomluvě a zničení reputace.

Stejný názor sdílel i pan Do Nhu Lam z ABAII, který poukázal na tři důsledky, které umělá inteligence způsobuje jednotlivým uživatelům: finanční podvody, pomlouvání pověsti a zneužívání soukromých informací. Pro firmy přišla společnost Arup o 25 milionů USD poté, co byli zaměstnanci její hongkongské pobočky podvedeni k účasti na deepfake video schůzce a převodu peněz na požádání.

Vše, co potřebujete vědět o Veo 3, aktuálně virálním nástroji umělé inteligence pro generování videí . Nejnovější model umělé inteligence od Googlu pro generování videa – Veo 3 – ohromuje svou schopností vytvářet realisticky synchronizovaný zvuk s obrazem.

Dalším stejně závažným rizikem je, že když lidé nebudou schopni rozlišit mezi pravdou a falešnou informací, důvěra veřejnosti v média a oficiální zpravodajské zdroje bude narušena.

Pan Lam citoval zprávu Reuters Institute z roku 2024, která ukazuje, že procento globálních uživatelů, kteří důvěřují zprávám na mediálních platformách, kleslo na nejnižší úroveň za posledních deset let, a to především kvůli vzniku deepfake obsahu.

Podle experta Vu Thanh Thanga „žijeme v době, kdy lze veškeré informace zfalšovat a již nepředstavují ‚riziko‘.“ Proto je nutné zvyšovat povědomí, uplatňovat osobní ochranná opatření a učit se o umělé inteligenci, abychom mohli žít v míru .

Oba experti doporučují, aby si uživatelé před rozhodnutím vždy ověřovali a ověřovali informace; aby se vybavili znalostmi k identifikaci falešného obsahu; aby omezili sdílení osobních údajů online a aby hlásili šíření falešného obsahu. „Pouze proaktivní přístup a informovanost mohou uživatelé skutečně chránit sami sebe a přispět k budování bezpečnějšího kyberprostoru v digitálním věku,“ uvedl pan Lam.

„Kmotr“ Yoshua Bengio, znepokojený vyhynutím lidstva v důsledku umělé inteligence, právě něco udělal . „Kmotr“ s umělou inteligencí Yoshua Bengio právě založil neziskovou organizaci s cílem vytvářet bezpečné systémy umělé inteligence, místo aby lidem ukazoval nebezpečné osobnosti.

Zdroj: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html