Ať už si přejete jakýkoli druh, máme ho.
Zatímco si paní Loanová v kavárně prohlížela internet na telefonu, s úlekem spatřila na obrazovce staršího muže, jak vchází do „karaoke baru“, zároveň volá po pěti mladých, atraktivních ženách a divoce tančí... „Tvář toho starého muže byla velmi podobná té mé. Ten obraz byl mimo naši představivost; co bychom řekli svým malým dětem, kdyby tohle viděly... byl by to velký problém,“ sdělila paní Loanová.
Sociální média nyní obsahují mnoho videí s umělou inteligencí s vulgárním obsahem, od zvuku po vizuální prvky.
Mezi dalšími obrázky je starší muž, který na motorce veze tři mladé, spoře oděné dívky a řítí se ulicemi. Řidič křičí: „Pryč ode mých zad, vy dva! Jak to můžu vydržet, když mě ty šrouby tlačí na záda...?“ Nebo obraz dívky v bikinách, která se na trhu zpovídá se starým mužem a pronáší hanlivé poznámky o ženách; nebo se s ním zpovídá o jeho bývalé přítelkyni s vulgárními odpověďmi...
„V současné době se na platformách sociálních médií nacházejí stovky, ba tisíce videí vytvořených nástroji umělé inteligence, která obsahují spoře oděné dívky, vulgární dialogy týkající se fyziologie a sexu a videa porušující kulturní hodnoty a která se k mobilním uživatelům dostávají prostřednictvím inteligentních algoritmů. Kdokoli si může vytvořit jakékoli video,“ obával se Thanh Hoai, bankovní zaměstnanec.
Dnes jsou nástroje pro tvorbu videa s využitím umělé inteligence běžné, jako například HeyGen, Synthesia, Pictory, InVideo, Kling AI, Luma AI, Veed.io, FlexClip, Wave Video atd. Každý nástroj má své silné stránky, pokud jde o funkce, kvalitu obrazu, možnosti personalizace avatara, podporu více jazyků nebo integraci hlasových komentářů a speciálních efektů s využitím umělé inteligence. Videa s využitím umělé inteligence s „realistickou“ kvalitou a „přehnanými“ obrázky a zvuky, jak bylo zmíněno výše, se online často objevují a většinou jsou vytvářena pomocí umělé inteligence Google Veo 3. Tento model umělé inteligence je schopen vytvářet videa z pokynů a integrovat živý zvuk, jako jsou dialogy mezi postavami nebo zvuky zvířat, a je považován za významný pokrok ve srovnání s jinými modely umělé inteligence, které vytvářejí pouze „tichá“ videa nebo videa s jednoduchou hudbou na pozadí.
Videa s umělou inteligencí, zejména ta provokativní nebo vulgární, se rychle dostávají k uživatelům mobilních telefonů, protože mnoho z nich si může předplatit balíčky poskytovatelů nástrojů pro umělou inteligenci v cenách od několika desítek do několika stovek dolarů měsíčně. Zároveň mnoho jednotlivců nabízí komplexní služby tvorby videí s umělou inteligencí, jako jsou základní balíčky (krátká videa, průměrné obrázky), pokročilé balíčky (vysoce kvalitní videa s mnoha efekty) a profesionální balíčky (kreativní videa s pokročilými funkcemi)... přičemž ceny se liší v závislosti na délce, složitosti a dalších funkcích, jako je dabing, vícejazyčné titulky a SEO optimalizace. „Ať už chcete jakýkoli typ videa s umělou inteligencí, máme ho u nás. I když chcete urážlivě vtipný obsah, sugestivní obrázky na veřejnosti nebo šokující dialogy... dokážeme to všechno,“ tvrdí Trong Hoa, tvůrce obsahu pro sociální média.
Mnoho nepředvídatelných důsledků
Google tvrdí, že veškerý obsah generovaný Veo 3 je opatřen vodoznakem SynthID – technologií od společnosti DeepMind, která pomáhá sledovat a identifikovat obsah generovaný umělou inteligencí. Společnost navíc poskytuje pokyny pro bezpečné používání a zdůrazňuje svůj cíl pomáhat uživatelům zodpovědně vytvářet a identifikovat obsah generovaný umělou inteligencí…
S nástupem videí s umělou inteligencí obecně a zejména s nástrojem Veo 3 se však etické otázky umělé inteligence objevují ze specifického úhlu pohledu. Umělá inteligence zkresluje kulturní identitu: protože může vytvářet „hybridní“ verze národní kultury, což způsobuje zmatek ohledně původu, ztrácí duši kulturní identity a v dlouhodobém horizontu ztěžuje komunitě rozlišování mezi původními hodnotami a variacemi. Porušování práv ke kulturnímu vlastnictví: protože umělá inteligence může snadno shromažďovat, kopírovat a replikovat kulturní prvky bez uznání nebo ochrany autorských práv, což vede k širokému používání tradičních hodnot. Socio-psychologický dopad: časté vystavení falešnému obsahu způsobuje, že jsou uživatelé zmateni a pochybují o pravosti všech informací, což ovlivňuje sociální důvěru a sdílené kulturní hodnoty.
„Rychlý rozvoj této technologie vedl k tomu, že právní předpisy, opatření na ochranu autorských práv a metody ověřování nedržely krok, což vedlo k mnoha výzvám v oblasti zachování a propagace tradičních kulturních hodnot. Veo 3 není jen zábavním nástrojem, ale také průlomem v oblasti médií, vzdělávání , marketingu a dokonce i filmu. Spolu s těmito příležitostmi však existují i významné výzvy, včetně rizika zneužití technologií, nahrazování lidí v kreativních odvětvích a souvisejících etických otázek. Proto je úloha politik, etických standardů a vzdělávání v oblasti digitálních dovedností pro komunitu nesmírně důležitá pro to, aby se umělá inteligence, jako je Veo 3, vyvíjela a používala zodpovědně,“ uvedl Phan Phuoc Quoc, ředitel společnosti GenZ Company.
Z jiného úhlu pohledu, s vývojem nástrojů umělé inteligence roste i riziko kybernetických útoků. Čím sofistikovanější jsou nástroje pro tvorbu videa s umělou inteligencí, tím větší je riziko deepfake kybernetických útoků, které vedou k novým a nebezpečnějším formám. Podle společnosti Kaspersky (jedné z největších světových antivirových softwarových společností) dochází k deepfake útoku v průměru každých 5 minut a předpokládá se, že do roku 2026 by až 90 % online obsahu mohlo být vytvořeno pomocí umělé inteligence. Hlavními cíli deepfake útoků zůstávají běžní uživatelé, kteří jsou ohroženi svými osobními, bankovními a platebními údaji.
„Riziko šíření dezinformací a falešného obsahu pomocí deepfake technologie vyvolává obavy mnoha lidí. Nástroje umělé inteligence, jako je Veo 3, lze zneužít k vytváření falešného obsahu, který ovlivňuje pověst jednotlivců a organizací nebo způsobuje narušení sociálních informací,“ uvedl pan Vu Ngoc Son, vedoucí oddělení pro výzkum, poradenství, technologický rozvoj a mezinárodní spolupráci Národní asociace pro kybernetickou bezpečnost (NCA).
BA TAN
Zdroj: https://www.sggp.org.vn/canh-giac-video-ai-phan-cam-post799084.html
Komentář (0)