Тысячи сообщений о контенте, связанном с насилием над детьми, созданном с помощью искусственного интеллекта

В последние месяцы эксперты и исследователи по безопасности детей предупреждают, что креативный ИИ может усугубить насилие в Интернете.

Генеральный директор Meta Марк Цукерберг выступает на заседании Судебного комитета Сената США 31 января 2024 года перед толпой участников, держащих в руках изображения, созданные с помощью искусственного интеллекта. Фото: Reuters

NCMEC пока не опубликовал общее количество сообщений о контенте, содержащем сцены насилия над детьми, полученных из всех источников в 2023 году. Однако в 2022 году организация получила около 88,3 млн файлов, посвященных этой проблеме.

«Мы получаем отчеты от самих инновационных компаний в области ИИ, (онлайн) платформ и представителей общественности», — сказал Джон Шехан, вице-президент NCMEC.

Руководители Meta, X, TikTok, Snap и Discord дали показания на слушаниях в Сенате США по безопасности детей на онлайн-платформах в среду (31 января). Американские законодатели задали владельцам социальных сетей вопросы об их усилиях по защите детей от «онлайн-хищников».

Исследователи из Стэнфордской интернет-обсерватории в своем отчете, опубликованном в июне прошлого года, заявили, что генеративный ИИ может использоваться злоумышленниками для неоднократного причинения вреда реальным детям путем создания их поддельных изображений.

Фэллон Макналти, директор CyberTipline NCMEC, которая принимает сообщения об эксплуатации детей в Интернете, заявил, что контент, создаваемый ИИ, становится «все более фотореалистичным», что затрудняет определение того, являются ли жертвы реальными людьми.

Макналти сообщил, что компания OpenAI, создавшая ChatGPT, разработала процесс подачи отчетов в NCMEC, и организация ведет переговоры с другими компаниями в области ИИ.

Хоанг Хай (по данным Reuters, FT)

Источник: https://www.congluan.vn/my-hang-nghin-bao-cao-ve-noi-dung-lam-dung-tre-em-do-ai-tao-ra-post283237.html