Theo 9to5Mac, Apple eliminó recientemente varias aplicaciones de generación de imágenes con IA de la App Store. Se trata de aplicaciones diseñadas específicamente para crear imágenes de desnudos que causan polémica, generando preocupación en muchas personas, especialmente en los adolescentes.
Apple está eliminando proactivamente aplicaciones dañinas de IA que crean fotos de desnudos
CAPTURA DE PANTALLA DE UNPLASH
La acción de Apple se produce después de que 404 Media realizara una investigación que destacara la naturaleza problemática de estas aplicaciones de imágenes de IA. Las investigaciones iniciales de 404 Media descubrieron una tendencia inquietante en la que las aplicaciones de inteligencia artificial se anuncian en Instagram con afirmaciones como "desnudarse gratis para cualquier chica". Estos anuncios suelen dirigir a los usuarios a la App Store, donde se describen como “herramientas de creación de arte”. La investigación no sólo reveló la existencia de estas aplicaciones sino que también destacó su accesibilidad a través de las principales plataformas publicitarias.
Si bien Apple no respondió de inmediato a las consultas iniciales de 404 Media, la compañía rápidamente tomó medidas al recibir detalles, incluidos enlaces directos a sus aplicaciones y anuncios. Este enfoque proactivo ayuda a la empresa a eliminar inmediatamente las aplicaciones infractoras de la App Store para evitar el uso indebido de la tecnología para crear contenido dañino.
De hecho, las aplicaciones de imágenes de IA antes mencionadas han recibido mucha atención en los últimos meses después de que se utilizaran para crear imágenes falsas de desnudos de adolescentes en escuelas de EE. UU. y de toda Europa. Para limitar estas aplicaciones dañinas en línea, plataformas como Meta han tomado medidas para eliminar dichos anuncios, aunque persisten desafíos para controlar de manera efectiva y consistente este contenido.
Una imagen antes y después procesada por la aplicación de edición de fotografías con IA en el teléfono Huawei Pura 70
Si bien las acciones de Apple son un paso en la dirección correcta, también resaltan los desafíos actuales en la moderación del contenido digital. Empresas como Google también han enfrentado escrutinio por dirigir a los usuarios a sitios como “MrDeepFakes”, conocido por su contenido sexualmente explícito que involucra a celebridades y figuras públicas.
Apple sabe que esta no es una lucha fácil y las aplicaciones eliminadas aún se pueden reemplazar con nuevas aplicaciones que generen fotografías de desnudos. De hecho, esta es una tendencia que es necesario detener para proteger la seguridad y privacidad de los usuarios en las redes sociales.
