Los deepfakes están muy extendidos: nadie está a salvo de los trucos de suplantación de identidad de la IA.

Imitación de voz, imitación de rostros, sincronización de labios... La IA ya no solo sirve para el trabajo y el entretenimiento, sino que se está convirtiendo en una peligrosa herramienta de fraude comercial. Imágenes de famosos, médicos e incluso monjes están siendo suplantadas por la IA para vender productos en redes sociales. La gente real no lo sabe y los compradores pierden la confianza.

Ser "cara prestada" para vender bienes

“No importa cómo esté la rodilla, simplemente aplique nuestro método. Le garantizamos una mejora significativa en 7 días. Si no es efectivo, le ofrezco una compensación de mil millones de VND como disculpa sincera. Si no nota ningún efecto, le reembolsaremos el 100 % y yo también le ofrezco mil millones de VND. No todos se atreven a hacer un compromiso así”, dice una famosa cantante que anuncia una crema de masaje para aliviar el dolor articular. Cabe mencionar que este anuncio fue creado íntegramente con inteligencia artificial.

El vídeo publicitario de arriba fue utilizado por una cuenta de TikTok llamada LShop, que utiliza la imagen, la voz y el lenguaje corporal de la cantante de una forma realista, imposible de detectar sin una observación minuciosa. Esta cuenta tiene casi 9000 seguidores, 67 000 «me gusta» y cada vídeo tiene miles de visualizaciones. Tan solo el vídeo «publicitario», que toma prestada la imagen de la cantante de arriba, atrajo más de 1000 «me gusta» y casi 100 comentarios para su compra.

Con la misma crema de masaje, los canales de venta también "produjeron" otra versión deepfake, esta vez de un médico. En el clip, el personaje prometía firmemente: "Soy el médico ortopédico más prestigioso de Hanói y garantizo que incluso la rotura de menisco más grave se puede curar por completo en tan solo 3 días. Este gel ha sido certificado por la asociación ortopédica más prestigiosa de Vietnam". Esta frase fue recreada por IA para otros "médicos", lo que facilitaba que los espectadores la confundieran con la real.

El video obtuvo casi 4000 "me gusta" y más de 120 comentarios, pero cuando enviamos un mensaje para intentar hacer un pedido, la cuenta no respondió ni interactuó con los espectadores en la sección de comentarios, simplemente dejando el producto en el carrito para su compra directa. Cabe destacar que el producto en venta provenía de China y la información del producto era muy vaga.

Desde cantantes y celebridades hasta médicos, todos han sido imitados por canales de ventas que crean clips de IA para vender productos relacionados con la salud.

Además de eso, el engaño de los deepfakes también se ha extendido a temas espirituales. Una cuenta de TikTok llamada Phat Phap NM no solo republicó las conferencias del Maestro TPH, sino que también utilizó tecnología de inteligencia artificial para crear imágenes del "maestro" vendiendo productos como hojas de Bodhi y pulseras de madera de agar.

Cuando los espectadores dejaron comentarios pidiendo comprar, el canal respondió: "Si no es lo que esperaban, vayan a la sección de exhibición de mi cuenta y elijan lo que necesiten. No sean tacaños con el cambio pequeño e ignoren el grande". Inmediatamente después, este monje tuvo que hablar para aclarar que nunca había publicitado ni estado involucrado con tales productos.

La línea entre la creatividad y la infracción

El experto en ciberseguridad Ngo Minh Hieu (Hieu PC), del Centro Nacional de Monitoreo de Ciberseguridad (NCSC), afirmó que los anuncios falsos que se difunden en redes sociales se crean principalmente con software Deepfake. Este software no es infrecuente; muchos servicios incluso ofrecen paquetes económicos y de funcionamiento muy sencillo. Si bien existen aplicaciones positivas en el campo de la creación de contenido digital y la producción de medios, según el Sr. Hieu, el problema radica en que algunos se han aprovechado de esta tecnología con fines negativos, como fraude, falsificación de identidad, difusión de noticias falsas o difamación mediante vídeos que parecen reales.

El Sr. Hieu también dio algunas señales para ayudar a identificar clips deepfake, como expresiones faciales en el video algo rígidas, formas de boca y movimientos que no coinciden con el diálogo... El Sr. Hieu advirtió que ha habido situaciones más graves en las que se utilizó IA para insertar los rostros de las víctimas en videos sensibles con fines de intimidación, coerción y lucro.

Según el abogado Tran Duc Phuong, del Colegio de Abogados de Ciudad Ho Chi Minh, usar IA para crear imágenes de celebridades (o personas específicas) sin su consentimiento constituye una violación de los derechos personales, en concreto del derecho a la imagen, según lo estipulado en el artículo 32 del Código Civil de 2015. La ley estipula: «Todas las personas tienen derecho a su propia imagen. El uso de la imagen de una persona debe ser acordado por dicha persona. El uso de una imagen con fines comerciales debe ser compensado a la persona cuya imagen se utiliza, salvo que las partes hayan acordado lo contrario».

Por lo tanto, si el propietario de una cuenta en una red social utiliza imágenes recreadas por IA a partir de fotos reales, videos antiguos, etc., con fines publicitarios o comerciales sin permiso, ha infringido la ley. Si el uso de una imagen infringe las disposiciones de este artículo, quien la posea tiene derecho a solicitar al tribunal que dicte una orden que obligue al infractor, a las agencias, organizaciones y personas pertinentes a retirar, destruir y dar por terminado el uso de la imagen, a indemnizar por los daños y perjuicios y a aplicar otras medidas conforme a la ley.

CAM NUONG

Fuente: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html