Miles de informes de contenido de abuso infantil generado por IA

En los últimos meses, expertos e investigadores en seguridad infantil han advertido que la IA creativa podría exacerbar el abuso en línea.

El director ejecutivo de Meta, Mark Zuckerberg, habla en una audiencia del Comité Judicial del Senado de EE. UU. el 31 de enero de 2024, frente a un grupo de asistentes que portaban imágenes generadas por IA. Foto: Reuters

El NCMEC aún no ha publicado el número total de informes de contenido de abuso infantil de todas las fuentes que recibió en 2023. Pero en 2022, recibió informes de alrededor de 88,3 millones de archivos sobre el problema.

“Estamos recibiendo informes de las propias empresas innovadoras de IA, de plataformas (en línea) y de miembros del público”, afirmó John Shehan, vicepresidente del NCMEC.

Los directores ejecutivos de Meta, X, TikTok, Snap y Discord testificaron en una audiencia del Senado de EE. UU. sobre seguridad infantil en plataformas en línea el miércoles 31 de enero. Legisladores estadounidenses cuestionaron a las empresas de redes sociales sobre sus esfuerzos para proteger a los niños de los "depredadores en línea".

La IA generativa podría ser utilizada por actores maliciosos para dañar repetidamente a niños de la vida real al crear imágenes falsas de ellos, dijeron investigadores del Observatorio de Internet de Stanford en un informe del pasado mes de junio.

Fallon McNulty, director de CyberTipline del NCMEC, que recibe informes de explotación infantil en línea, dijo que el contenido generado por IA se está volviendo "cada vez más fotorrealista", lo que dificulta determinar si las víctimas son personas reales.

McNulty dijo que OpenAI, la compañía que creó ChatGPT, ha establecido un proceso para enviar informes al NCMEC y la organización está en conversaciones con otras compañías de IA.

Hoang Hai (según Reuters, FT)

Fuente: https://www.congluan.vn/my-hang-nghin-bao-cao-ve-noi-dung-lam-dung-tre-em-do-ai-tao-ra-post283237.html