Tisíce hlášení o obsahu zneužívání dětí generovaném umělou inteligencí.

V posledních měsících experti a výzkumníci v oblasti bezpečnosti dětí varovali před potenciálem inovativní umělé inteligence zhoršit problém online zneužívání.

Generální ředitel společnosti Meta Mark Zuckerberg svědčí na slyšení justičního výboru Senátu USA 31. ledna 2024 před velkým publikem, které drží v rukou obrázky generované umělou inteligencí. Foto: Reuters

NCMEC zatím nezveřejnila celkový počet hlášení o obsahu týkajícím se zneužívání dětí ze všech zdrojů, které v roce 2023 obdržela. V roce 2022 však obdržela hlášení o přibližně 88,3 milionu souborů týkajících se této problematiky.

John Shehan, viceprezident NCMEC, uvedl: „Dostáváme zprávy od samotných inovativních společností zabývajících se umělou inteligencí, (online) platforem a od veřejnosti.“

Generální ředitelé společností MetaX, TikTok, Snap a Discord ve středu (31. ledna) svědčili před americkým Senátem ohledně bezpečnosti dětí na online platformách. Američtí zákonodárci se společností sociálních médií ptali na jejich úsilí o ochranu dětí před „online predátory“.

Výzkumníci ze Stanfordské internetové observatoře ve zprávě z června loňského roku uvedli, že inovativní umělou inteligenci by mohli zlomyslní aktéři zneužívat k opakovanému ubližování skutečným dětem vytvářením jejich falešných obrázků.

Fallon McNulty, ředitel CyberTipline v NCMEC, která přijímá hlášení o online zneužívání dětí, uvedl, že obsah generovaný umělou inteligencí se stává „stále realističtějším“, což ztěžuje určení, zda jsou oběťmi skuteční lidé.

McNulty uvedl, že společnost OpenAI, která vytvořila ChatGPT, zavedla proces podávání zpráv NCMEC a že organizace jedná s dalšími společnostmi zabývajícími se umělou inteligencí.

Hoang Hai (podle agentur Reuters, FT)

Zdroj: https://www.congluan.vn/my-hang-nghin-bao-cao-ve-noi-dung-lam-dung-tre-em-do-ai-tao-ra-post283237.html