Тысячи сообщений о контенте, связанном с насилием над детьми, созданном с помощью искусственного интеллекта

В последние месяцы эксперты и исследователи по безопасности детей предупреждают о риске того, что искусственный ИИ может усугубить насилие в Интернете.

Генеральный директор Meta Марк Цукерберг выступает на слушаниях в Юридическом комитете Сената США 31 января 2024 года перед толпой участников, несущих изображения, созданные с помощью ИИ. Фото: Reuters

NCMEC пока не опубликовал общее количество сообщений о материалах, связанных с жестоким обращением с детьми, полученных им из всех источников в 2023 году. Однако в 2022 году он получил сообщения о примерно 88,3 миллионах файлов, касающихся этой проблемы.

«Мы получаем отчеты от самих инновационных компаний, занимающихся ИИ, (онлайн) платформ и представителей общественности», — сказал Джон Шехан, вице-президент NCMEC.

Руководители Meta, X, TikTok, Snap и Discord дали показания на слушаниях в Сенате США по безопасности детей на онлайн-платформах в среду (31 января). Американские законодатели задали вопросы компаниям социальных сетей об их усилиях по защите детей от «онлайн-хищников».

Исследователи из Стэнфордской интернет-обсерватории в отчете, опубликованном в июне прошлого года, заявили, что генеративный ИИ может использоваться злоумышленниками для многократного причинения вреда реальным детям путем создания их поддельных изображений.

Фэллон МакНалти, директор CyberTipline NCMEC, которая принимает сообщения об эксплуатации детей в Интернете, заявила, что контент, создаваемый ИИ, становится «все более фотореалистичным», что затрудняет определение того, являются ли жертвы реальными людьми.

По словам Макналти, компания OpenAI, создавшая ChatGPT, разработала процесс подачи отчетов в NCMEC, и организация ведет переговоры с другими компаниями, занимающимися ИИ.

Хоанг Хай (по данным Reuters, FT)

Источник: https://www.congluan.vn/my-hang-nghin-bao-cao-ve-noi-dung-lam-dung-tre-em-do-ai-tao-ra-post283237.html