FBI tvrdí, že umělá inteligence je používána k „vydírání“ a obtěžování

Ve varování rozeslaném tento týden FBI uvedla, že v poslední době zaznamenala nárůst obětí vydírání, které tvrdí, že se staly terčem útoků s využitím umělé inteligence k úpravě jinak běžných obrázků pořízených z online příspěvků, osobních zpráv nebo videochatů do falešných verzí.

FBI říká, kdo je využíván k vybírání peněz a jejich natáčení (obrázek 1) — Španělská policie jednou zatkla programátora, který pomocí umělé inteligence vytvářel falešné obrázky dětské pornografie. Foto: Daily Mail

„Obrázky jsou pak pachateli zasílány přímo obětem za účelem vydírání nebo sexuálního obtěžování. Jakmile jsou oběti distribuovány, mohou čelit značným problémům s tím, jak zabránit dalšímu sdílení manipulovaného obsahu a jak ho odstranit z internetu,“ uvádí se ve varování.

Úřad uvedl, že snímky vypadají „věrně“ a zároveň poznamenal, že v některých případech se terčem útoků staly i děti.

V únoru španělská policie zatkla počítačového programátora, který pomocí umělé inteligence vytvářel hrůzné snímky zneužívání dětí. Jedná se pravděpodobně o jedno z prvních zatčení svého druhu.

FBI se nezabývala podrobnostmi o programech umělé inteligence používaných k vytváření sexuálních obrázků, ale poznamenala, že technologický pokrok „neustále zlepšuje kvalitu, přizpůsobení a dostupnost tvorby obsahu s využitím umělé inteligence“.

Úprava běžných fotografií za účelem vytváření erotických obrázků je téměř stejně stará jako samotná fotografie, ale nedávný rozmach open-source nástrojů pro umělou inteligenci tento proces usnadnil více než kdy jindy.

Falešné fotografie nebo videa jsou často k nerozeznání od skutečných verzí a v posledních letech se dokonce objevilo několik webových stránek a sociálních sítí věnovaných vytváření a sdílení sexuálních obrázků s využitím umělé inteligence.

Toto je považováno za jedno z řady rizik, která může umělá inteligence pro společnost představovat, jak odborníci v poslední době znepokojovali a před čímž varovali.

Hoang Anh (podle Daily Mail, Reuters)

Zdroj