Temná stránka aplikací umělé inteligence

Poté, co startup OpenAI koncem roku 2022 spustil svou první aplikaci umělé inteligence s názvem ChatGPT, spustila se vlna závodů ve vývoji aplikací umělé inteligence, zejména generativní umělé inteligence, která přináší mnoho výhod ve všech oblastech života. S sebou však nese i mnoho rizik.

Narušení soukromí

V posledních letech mnoho organizací a jednotlivců utrpělo ztráty, když technologickí zločinci použili umělou inteligenci k vytváření videoklipů , které zfalšovaly obrazy a hlasy skutečných lidí. Jedním z příkladů je trik „z falešného se stává realita“ zvaný Deepfake.

Podle zprávy o podvodech s identitou, kterou na konci listopadu 2023 zveřejnila společnost Sumsub, se počet podvodů typu Deepfake v letech 2022–2023 celosvětově desetkrát zvýšil. V této době došlo také k explozi aplikací umělé inteligence ve světě .

Společnost Status Labs poznamenává, že Deepfake měl zásadní dopad na kulturu, soukromí a osobní reputaci. Velká část zpráv a pozornosti kolem Deepfake se zaměřila na pornografii s celebritami, pornografii z pomsty, dezinformace, falešné zprávy, vydírání a podvody. Například v roce 2019 hacker, který zfalšoval image a hlas vedení společnosti a požádal zaměstnance, aby převedli peníze partnerům, připravil o 243 000 dolarů energetickou společnost v USA.

Tisková agentura Reuters uvedla, že v roce 2023 bylo na sociálních sítích po celém světě sdíleno přibližně 500 000 deepfake obsahů ve formě videa a hlasu. Kromě deepfakeů pro zábavu existují i ​​triky vytvářené zločinci, aby oklamali komunitu. Některé zdroje uvádějí, že v roce 2022 způsobily deepfake podvody po celém světě odhadovanou ztrátu 11 milionů USD.

Mnoho technologických expertů varuje před negativními dopady umělé inteligence, včetně práv duševního vlastnictví a autenticity, a dále před spory o duševní vlastnictví mezi „děly“ vytvořenými umělou inteligencí. Například jedna osoba požádá aplikaci umělé inteligence, aby nakreslila obrázek s určitým tématem, ale jiná osoba požádá umělou inteligenci, aby udělala totéž, což vede k obrazům s mnoha podobnostmi.

To s velkou pravděpodobností povede ke sporům o vlastnictví. Doposud však svět nerozhodl o uznávání autorských práv k obsahu generovanému umělou inteligencí (uznání autorství jednotlivcům, kteří si objednají kreativní umělou inteligenci, nebo společnostem, které vyvíjejí aplikace umělé inteligence).

Obrázek vygenerovaný aplikací umělé inteligence

Těžké rozlišit mezi pravým a falešným

Může tedy obsah generovaný umělou inteligencí porušovat autorská práva? Z technologického hlediska je obsah generovaný umělou inteligencí syntetizován algoritmy z dat, na kterých byl trénován. Tyto databáze shromažďují vývojáři aplikací umělé inteligence z mnoha zdrojů, zejména ze znalostní báze na internetu. Mnoho z těchto děl je chráněno autorským právem jejich vlastníků.

Dne 27. prosince 2023 zažaloval americký deník The New York Times společnosti OpenAI (s ChatGPT) a Microsoft s tvrzením, že miliony jejich článků byly použity k trénování chatbotů s umělou inteligencí a platforem umělé inteligence těchto dvou společností. Důkazem je, že existuje obsah vytvořený chatboty na žádost uživatelů, který je stejný nebo podobný obsahu článků. Tento deník nemůže ignorovat, když jejich „duševní vlastnictví“ společnosti využívají za účelem zisku.

The New York Times jsou prvními velkými americkými novinami, které podaly žalobu na porušení autorských práv v souvislosti s umělou inteligencí. Je možné, že v budoucnu budou následovat i další noviny, zejména po úspěchu The New York Times.

OpenAI dříve uzavřela v červenci 2023 dohodu o licencování autorských práv s tiskovou agenturou Associated Press a v prosinci 2023 s Axel Springer – německým vydavatelem, který vlastní noviny Politico a Business Insider.

Herečka Sarah Silvermanová se v červenci 2023 také připojila k žalobě a obvinila společnosti Meta a OpenAI z použití jejích pamětí jako výukového textu pro programy umělé inteligence. Mnoho autorů také vyjádřilo znepokojení, když vyšlo najevo, že systémy umělé inteligence absorbovaly do svých databází desítky tisíc knih, což vedlo k žalobám od autorů, jako jsou Jonathan Franzen a John Grisham.

Mezitím fotografická služba Getty Images zažalovala společnost zabývající se umělou inteligencí za vytváření obrázků na základě textových pokynů z důvodu neoprávněného použití obrazového materiálu chráněného autorskými právy této společnosti...

Uživatelé se mohou dostat do problémů s autorskými právy, když „nedbale“ používají „díla“, která požádali nástroje umělé inteligence o „vytvoření“. Odborníci vždy doporučují používat nástroje umělé inteligence pouze k vyhledávání, shromažďování dat a poskytování návrhů pro referenční účely.

Na druhou stranu aplikace umělé inteligence matou uživatele, když nedokážou rozlišit mezi pravdivostí a leží určitého obsahu. Vydavatelé a redakce novin mohou být zmateni při přijímání rukopisů. Učitelé mají také problém s rozpoznáním, zda práce studentů využívá umělou inteligenci, či nikoli.

Komunita bude nyní muset být ostražitější, protože se neví, co je skutečné a co falešné. Například pro průměrného člověka bude obtížné rozpoznat, zda byla fotografie „očarována“ nebo upravena umělou inteligencí.

Je potřeba právní regulace používání umělé inteligence

Zatímco se čeká na aplikační nástroje, které dokáží detekovat zásahy umělé inteligence, správní orgány potřebují brzy mít jasné a specifické právní předpisy týkající se používání této technologie k vytváření soukromého obsahu. Právní předpisy musí všem ukázat, že do obsahu a děl byla umělá inteligence zasažena, například ve výchozím nastavení vodoznakem upravované obrázky umělou inteligencí.

Zdroj: https://nld.com.vn/mat-trai-cua-ung-dung-tri-tue-nhan-tao-196240227204333618.htm