Čínský chatbot Doubao je kritizován za vytváření pornografických deepfakes.

Doubao vlastní společnost ByteDance a v současné době je chatbotem s největším počtem uživatelů v Číně, ke konci prosince měl 155 milionů aktivních uživatelů týdně.

Podle vyšetřovacího týmu se Doubao stal populárním nástrojem pro vytváření deepfake videí a obrázků, protože jeho bezpečnostní opatření se dala snadno obejít. Dobrovolníci z Free Nora infiltrovali anonymní skupiny na Telegramu a dokumentovali, jak uživatelé sdíleli své zkušenosti s obcházením cenzury.

Chatbot Doubao je obviněn z vytváření deepfake pornografických videí. (Obrázek: Visual China)

Používají šifrovací systém zvaný „fenjue“ – sadu příkazů určených k obcházení zabezpečení umělé inteligence. Místo přímého vyžádání citlivého obsahu uživatelé zadávají pokyny, jako je převlékání, úprava držení těla nebo používání slangu a cizích klíčových slov k obcházení filtru.

Experimentováním s více účty a anonymními režimy zdokonalovali příkazy, dokud systém nezačal generovat odhalující obrázky. Podle vyšetřování platforma při zpracování snímků obličeje nevyžadovala ověření identity ani souhlas.

Free Nora objevila organizovanou „síť pro sdílení znalostí“ fungující v rámci chatovacích skupin. Členové se navzájem konzultují s optimalizací kódu, rekrutují nové členy k „testování problému“ a dokonce prodávají kód nebo tutoriály na e-commerce platformách.

Mnoho lidí používá k testování fotografie známých, přátel nebo příbuzných. Ti, kteří mají online veřejně dostupné fotografie, jako například streameři nebo KOL, se často stávají terčem.

Fenomén deepfake pornografie není specifický pouze pro Čínu. Organizace OSN pro ženy varovala, že se jedná o novou formu kyberšikany namířené proti ženám, přičemž 90–95 % online deepfakeů tvoří pornografie bez souhlasu a většina obětí jsou ženy.

Free Nora se také zmínila o kontroverzi kolem nástroje Grok s umělou inteligencí, který představil Elon Musk. Po spuštění funkce pro úpravu fotografií se aplikace setkala s celosvětovou kritikou a byla nucena omezit tvorbu fotografií pro většinu uživatelů.

Podle této skupiny některé platformy v závodě o růst a technologickou konkurenci ohrozily bezpečnost žen. Vyzývají čínské společnosti, aby zpřísnily své mechanismy řízení rizik.

Free Nora varuje, že vytváření deepfaků „zdarma a bez omezení“ dává zlomyslným aktérům virtuální kontrolu nad těly jiných lidí a porušuje autonomii a důstojnost obětí bez jejich vědomí.

Zdroj: https://congluan.vn/chatbot-doubao-cua-trung-quoc-bi-chi-trich-vi-tao-deepfake-khieu-dam-10331594.html