YouTube está implementando y ampliará el acceso a su herramienta de detección de semejanzas para los creadores.
La proliferación de videos deepfake está difuminando la línea entre la realidad y la falsificación. Desde celebridades hasta creadores de contenido, cualquiera puede ser víctima de esta tecnología.
Ante esta realidad, YouTube y muchas otras plataformas en línea buscan lograr un equilibrio entre la libertad creativa y el control sobre la identidad digital.
YouTube está probando una herramienta de detección de suplantación de identidad impulsada por inteligencia artificial.
YouTube ha introducido una nueva función llamada "Detección de Semejanza", que se traduce como la identificación de similitudes en rasgos faciales y voz. Cuando los creadores descubren vídeos que muestran indicios de suplantación de imagen o voz, pueden enviar una solicitud de verificación directamente a través de esta herramienta.
El sistema utilizará un modelo de inteligencia artificial para comparar los datos faciales y de voz con el perfil original del solicitante. Si los resultados muestran una alta coincidencia, el video se enviará al equipo de moderación de YouTube para su posterior evaluación.
Esto ayuda a reducir la eliminación accidental de contenido legítimo y aumenta la precisión de la detección de deepfakes.
A diferencia de las herramientas anteriores para denunciar infracciones de derechos de autor o contenido infractor, la nueva función de reconocimiento se centra en la identidad personal. Quienes sean suplantados no necesitan demostrar la propiedad de las imágenes o el contenido; solo deben confirmar el uso no autorizado de su rostro o voz.
Según YouTube, el objetivo de esta herramienta es devolver el control a los creadores, en un contexto donde cada vez más vídeos utilizan tecnología de síntesis de imagen y voz que dificulta a los espectadores distinguir entre contenido real y falso. Se espera que la herramienta se implemente gradualmente en EE. UU. antes de expandirse a otras regiones el próximo año.
Una medida para combatir la ola de deepfakes.
Los deepfakes ya no se limitan a videos de entretenimiento o contenido satírico. En tan solo unos años, esta tecnología se ha utilizado con fines de fraude, política y manipulación de información. Numerosos casos de celebridades con rostros o voces alterados en anuncios o contenido sensible han generado inquietud entre los usuarios sobre la fiabilidad de lo que ven en línea.
En respuesta a esta ola, las plataformas de redes sociales buscan colectivamente maneras de reaccionar. Meta ha anunciado planes para etiquetar los videos creados por inteligencia artificial como "generados por IA", mientras que TikTok ha añadido una opción "generada por IA" a su sección de denuncia de infracciones, lo que facilita a los usuarios denunciar videos falsos. Para YouTube, esta es una medida proactiva para abordar la ola generalizada y difícil de controlar de deepfakes.
El lanzamiento de esta función también demuestra el intento de YouTube de redefinir los estándares de moderación de contenido en la era de la IA. La plataforma no solo gestiona los vídeos infractores, sino que también crea mecanismos para que los creadores puedan expresar su opinión y proteger su identidad digital.
Algunos expertos en medios ven esto como una señal de que las empresas tecnológicas han comenzado a pasar de "adaptarse a la IA" a "controlar el impacto de la IA".
Sin embargo, aplicar herramientas de detección de deepfakes a escala global no es sencillo. Las diferencias en las leyes de protección de datos entre países y la complejidad de identificar contenido falso dañino serán desafíos que YouTube enfrentará durante su implementación.
La línea entre la creatividad y la censura
La lucha contra los deepfakes plantea interrogantes sobre los límites de la creación de contenido. A muchos productores de vídeo les preocupa que las herramientas de detección automatizada puedan afectar a productos legítimos basados en IA, como cortometrajes o vídeos ilustrados. A medida que se difumina la línea entre la creatividad y la falsificación, las plataformas deben encontrar maneras de proteger a los usuarios sin vulnerar la libertad creativa.
YouTube afirma que su herramienta de identificación no pretende restringir la creatividad, sino proteger el derecho de las personas a controlar sus propias imágenes. Sin embargo, los expertos creen que determinar qué vídeos son perjudiciales y cuáles son creaciones legítimas seguirá siendo un gran desafío.
Es probable que la carrera entre la tecnología para crear falsificaciones y la tecnología para detectarlas continúe, y la nueva herramienta de YouTube es solo un pequeño paso en el esfuerzo por conservar la autenticidad en una era cada vez más virtual.
Fuente: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm
Kommentar (0)