YouTube lanza la herramienta 'Detección de semejanza' para proteger imágenes y voces de los deepfakes

La proliferación de videos deepfake está difuminando la línea entre lo real y lo falso. Desde celebridades hasta creadores de contenido, todos pueden ser víctimas de esta tecnología.

Ante esa realidad, YouTube y muchas otras plataformas online intentan encontrar un equilibrio entre la libertad creativa y el control de la identidad digital.

YouTube prueba una herramienta de reconocimiento de suplantación de identidad con IA

YouTube ha introducido una nueva función llamada "Detección de semejanza", que se traduce aproximadamente como reconocimiento de similitud facial y de voz. Cuando los creadores detectan videos aparentemente falsos, pueden enviar solicitudes de verificación directamente a través de esta herramienta.

El sistema utilizará un modelo de inteligencia artificial para comparar los datos faciales y de voz con el perfil original del solicitante. Si los resultados muestran una alta coincidencia, el video se enviará al departamento de moderación de YouTube para su posterior revisión.

Esto ayuda a reducir la posibilidad de eliminar por error contenido válido y, al mismo tiempo, aumenta la precisión de la detección de deepfakes.

A diferencia de las herramientas anteriores para denunciar derechos de autor o contenido infractor, la nueva función de reconocimiento se centra en la identidad personal. La persona suplantada no necesita demostrar la propiedad de la imagen o el contenido, solo confirmar el uso no autorizado de su rostro o voz.

YouTube afirma que el objetivo de la herramienta es devolver el control a los creadores, ya que cada vez más vídeos utilizan tecnología de síntesis de imagen y voz que dificulta a los espectadores distinguir entre lo real y lo falso. Se espera que la herramienta se implemente gradualmente en EE. UU. antes de expandirse a otras regiones el próximo año.

Pasos para afrontar la ola de deepfakes

Los deepfakes ya no se limitan a los vídeos de entretenimiento o la sátira. En tan solo unos años, esta tecnología se ha utilizado con fines fraudulentos, políticos y de manipulación de información. Numerosos casos de celebridades con rostros recortados, o incluso voces falsificadas, en anuncios o contenido sensible han suscitado inquietudes sobre la fiabilidad de lo que ven en línea.

Ante esta ola, las plataformas de redes sociales han buscado responder simultáneamente. Meta anunció planes para etiquetar los videos creados por inteligencia artificial como "generados por IA", mientras que TikTok agregó una sección "generado por IA" a su sección de denuncia de infracciones, facilitando a los usuarios la respuesta al descubrir videos falsos. Para YouTube, esta medida demuestra sus esfuerzos proactivos para abordar la ola generalizada e incontrolable de deepfakes.

El lanzamiento de esta función también demuestra que YouTube busca redefinir los estándares de gestión de contenido en la era de la IA. La plataforma no solo gestiona los vídeos infractores, sino que también crea un mecanismo para que los creadores tengan voz y voto en la protección de su identidad digital.

Algunos expertos en medios ven esto como una señal de que las empresas tecnológicas han comenzado a pasar de la fase de “adaptación a la IA” a la de “controlar el impacto de la IA”.

Sin embargo, implementar herramientas de detección de deepfakes a escala global no es sencillo. Las diferencias en las leyes de protección de datos entre países y la complejidad de determinar qué constituye contenido falso dañino representarán un desafío para YouTube durante el proceso de implementación.

La línea entre la creatividad y la censura

La lucha contra los deepfakes plantea interrogantes sobre los límites de la creación de contenido. A muchos creadores de vídeos les preocupa que las herramientas de reconocimiento automático puedan afectar a productos legítimos basados en IA, como cortometrajes o vídeos de demostración. A medida que la línea entre la creatividad y la falsificación se difumina cada vez más, las plataformas deben encontrar maneras de proteger a los usuarios sin socavar la libertad creativa.

YouTube insiste en que la herramienta de reconocimiento no pretende limitar la creatividad, sino proteger el derecho a controlar la imagen personal. Sin embargo, los expertos afirman que determinar qué es una creación dañina y qué es legítima seguirá siendo un gran desafío.

Es probable que la carrera entre la creación de contenido falso y la tecnología de detección de contenido falso continúe, y la nueva herramienta de YouTube es solo un pequeño paso en el esfuerzo por conservar lo real en una era cada vez más virtual.

GRACIAS JUE

Fuente: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm