Tisíce hlášení o obsahu zneužívání dětí generovaném umělou inteligencí

V posledních měsících experti a výzkumníci v oblasti bezpečnosti dětí varovali před rizikem, že by umělá inteligence mohla zhoršit online zneužívání.

Generální ředitel společnosti Meta Mark Zuckerberg hovoří na slyšení justičního výboru Senátu USA 31. ledna 2024 před davem účastníků, kteří nesli obrázky generované umělou inteligencí. Foto: Reuters

NCMEC zatím nezveřejnila celkový počet hlášení o materiálu zobrazujícím zneužívání dětí ze všech zdrojů, které v roce 2023 obdržela. V roce 2022 však obdržela hlášení o přibližně 88,3 milionu souborů týkajících se tohoto problému.

„Dostáváme zprávy od samotných inovativních společností zabývajících se umělou inteligencí, (online) platforem a od veřejnosti,“ řekl John Shehan, viceprezident NCMEC.

Generální ředitelé společností Meta, X, TikTok, Snap a Discord ve středu (31. ledna) svědčili na slyšení amerického Senátu o bezpečnosti dětí na online platformách. Američtí zákonodárci se ptali společností sociálních médií na jejich úsilí o ochranu dětí před „online predátory“.

Výzkumníci ze Stanfordské internetové observatoře ve zprávě z loňského června uvedli, že generativní umělá inteligence by mohla být zneužita zločinci k opakovanému ubližování skutečným dětem vytvářením jejich falešných obrázků.

Fallon McNulty, ředitel CyberTipline organizace NCMEC, která přijímá hlášení o online zneužívání dětí, uvedl, že obsah generovaný umělou inteligencí se stává „stále více fotorealistickým“, což ztěžuje určení, zda jsou oběti skuteční lidé.

Společnost OpenAI, která vytvořila ChatGPT, zavedla proces pro podávání zpráv NCMEC a organizace jedná s dalšími společnostmi zabývajícími se umělou inteligencí, uvedl McNulty.

Hoang Hai (podle agentur Reuters, FT)

Zdroj: https://www.congluan.vn/my-hang-nghin-bao-cao-ve-noi-dung-lam-dung-tre-em-do-ai-tao-ra-post283237.html