Temná stránka aplikací umělé inteligence

Poté, co startup OpenAI koncem roku 2022 spustil svou první aplikaci umělé inteligence s názvem ChatGPT, spustila se vlna konkurence o vývoj aplikací umělé inteligence, zejména generativní umělé inteligence, která přináší mnoho výhod ve všech oblastech života. To však s sebou nese i mnoho rizik.

Narušení soukromí

V posledních letech mnoho organizací i jednotlivců utrpělo ztráty, když kyberzločinci použili umělou inteligenci k vytváření videoklipů , které zfalšovaly obrazy a hlasy skutečných lidí. Jedním z příkladů je trik Deepfake.

Podle zprávy o podvodech s identitou, kterou na konci listopadu 2023 zveřejnila společnost Sumsub, se počet podvodů typu Deepfake v letech 2022–2023 celosvětově desetkrát zvýšil. Toto je také doba, kdy ve světě explodovaly aplikace umělé inteligence.

Společnost Status Labs poznamenává, že Deepfakes měly zásadní dopad na kulturu, soukromí a osobní reputaci. Velká část zpráv a pozornosti kolem Deepfakes se zaměřila na pornografii s celebritami, pornografii z pomsty, dezinformace, falešné zprávy, vydírání a podvody. Například v roce 2019 byla americká energetická společnost podvodně připravena o 243 000 dolarů hackerem, který zfalšoval image a hlas vedoucích pracovníků společnosti a požádal zaměstnance, aby převedli peníze partnerům.

Agentura Reuters uvedla, že v roce 2023 bylo na sociálních sítích po celém světě sdíleno přibližně 500 000 videí a zvukových nahrávek s využitím deepfake. Kromě deepfakeů pro zábavu existují i ​​triky vymýšlené zločinci, aby podvedli komunitu. Podle zdrojů se odhaduje, že v roce 2022 podvody s deepfake po celém světě způsobily ztráty až 11 milionů USD.

Mnoho technologických expertů varuje před negativními dopady umělé inteligence, včetně práv duševního vlastnictví a autenticity, a dále před spory o duševní vlastnictví mezi „děly“ vytvořenými umělou inteligencí. Například jedna osoba požádá aplikaci umělé inteligence, aby nakreslila obrázek s určitým tématem, ale jiná osoba požádá umělou inteligenci, aby udělala totéž, což vede k obrazům s mnoha podobnostmi.

To s velkou pravděpodobností povede ke sporům o vlastnictví. Doposud však svět nerozhodl o uznávání autorských práv k obsahu generovanému umělou inteligencí (uznání autorských práv jednotlivcům, kteří si objednávají kreativní umělou inteligenci, nebo společnostem, které vyvíjejí aplikace umělé inteligence).

Obrázek vygenerovaný aplikací umělé inteligence

Těžké rozlišit mezi pravým a falešným

Může tedy obsah generovaný umělou inteligencí porušovat autorská práva? Z technologického hlediska je obsah generovaný umělou inteligencí syntetizován algoritmy z dat, na kterých byl trénován. Tyto databáze shromažďují vývojáři aplikací umělé inteligence z mnoha zdrojů, zejména ze znalostní báze na internetu. Mnoho z těchto děl je chráněno autorským právem jejich vlastníků.

Dne 27. prosince 2023 zažaloval americký deník The New York Times společnosti OpenAI (s ChatGPT) a Microsoft s tvrzením, že miliony jejich článků byly použity k trénování chatbotů s umělou inteligencí a platforem umělé inteligence těchto dvou společností. Důkazem je, že existuje obsah vytvořený chatboty na žádost uživatelů, který je stejný nebo podobný obsahu článků. Tento deník nemůže ignorovat, když jejich „duševní vlastnictví“ společnosti využívají za účelem zisku.

The New York Times jsou prvními velkými americkými novinami, které podaly žalobu na porušení autorských práv v souvislosti s umělou inteligencí. Je možné, že v budoucnu budou následovat i další noviny, zejména po úspěchu The New York Times.

OpenAI dříve uzavřela v červenci 2023 dohodu o licencování autorských práv s tiskovou agenturou Associated Press a v prosinci 2023 s Axel Springer – německým vydavatelem, který vlastní dva noviny Politico a Business Insider.

Herečka Sarah Silvermanová se v červenci 2023 také připojila k dvěma žalobám a obvinila společnosti Meta a OpenAI z použití jejích pamětí jako výukového textu pro programy umělé inteligence. Mnoho autorů také vyjádřilo znepokojení, když vyšlo najevo, že systémy umělé inteligence absorbovaly do svých databází desítky tisíc knih, což vedlo k žalobám od autorů, jako jsou Jonathan Franzen a John Grisham.

Fotografická služba Getty Images mezitím zažalovala společnost zabývající se umělou inteligencí za vytváření obrázků na základě textových pokynů z důvodu neoprávněného použití vizuálního materiálu společnosti chráněného autorskými právy...

Uživatelé se mohou setkat s problémy s autorskými právy, pokud „nedbale“ používají „díla“, která požádali nástroje umělé inteligence o „vytvoření“. Odborníci vždy doporučují používat nástroje umělé inteligence pouze pro vyhledávání, shromažďování dat a poskytování návrhů pro referenční účely.

Na druhou stranu aplikace umělé inteligence matou uživatele, když nedokážou rozlišit mezi pravdivostí a lží určitého obsahu. Vydavatelé a redakce novin mohou být zmateni při přijímání rukopisů. Učitelé mají také problém s rozpoznáním, zda práce studentů využívají umělou inteligenci, či nikoli.

Komunita bude muset být nyní ostražitější, protože se neví, co je skutečné a co falešné. Například pro průměrného člověka bude obtížné rozpoznat, zda byla fotografie „očarována“ nebo upravena umělou inteligencí.

Je potřeba právní regulace používání umělé inteligence

Zatímco se čeká na aplikační nástroje, které dokáží detekovat zásahy umělé inteligence, správní orgány potřebují brzy mít jasné a specifické právní předpisy týkající se používání této technologie k vytváření soukromého obsahu. Právní předpisy musí všem ukázat, že do obsahu a děl byla umělá inteligence zasažena, například připojováním vodoznaku k obrázkům, které umělá inteligence upravila, ve výchozím nastavení.

Zdroj: https://nld.com.vn/mat-trai-cua-ung-dung-tri-tue-nhan-tao-196240227204333618.htm