08:22, 09/12/2023
Las tecnologías de inteligencia artificial (IA) están creando peligros alarmantes en la comunidad social a través de técnicas de engaño cada vez más sofisticadas.
Entre ellas, la tecnología recientemente desarrollada “deepfake” está atrayendo a muchos usuarios, especialmente mujeres, a combinar sus fotos con imágenes de reinas de belleza, modelos de moda ... para parecer reales, sin saber que detrás de ello se esconden riesgos impredecibles.
Recientemente, un conocido compartió un enlace a un video titulado "película reveladora" de una famosa estrella. Al hacer clic en el enlace, la gente se sorprendió al ver el rostro de una joven actriz con ropa sexy y teniendo intimidad con un hombre. Un experto en tecnología afirmó que no se trata de una película real, sino de una estafa tecnológica que utiliza tecnología "deepfake" para crear la imagen de otra persona.
 |
| Una foto de un usuario generada por IA. Foto de internet. |
Este experto también informó que, en los últimos 10 días, se ha popularizado en redes sociales el envío de retratos a aplicaciones de inteligencia artificial para obtener fotos "muy bonitas y realistas". A muchos jóvenes les encanta, e incluso se animan a elegir el software más inteligente que combine imágenes más bonitas, como las de actores famosos y modelos. Algunas aplicaciones también permiten combinar fotos en vídeos. "Sin embargo, nadie puede predecir el peligro oculto de este juego. En resumen, un día verás una imagen tuya desnuda y sexy", advirtió el experto.
Al rastrear la información, se puede ver que la tecnología "deepfake" se desarrolla con base en la plataforma de aprendizaje automático, utilizando el código fuente abierto de Google. El término "deepfake" es una combinación de las frases "aprendizaje profundo" y "falso", que significa aprender a crear simulaciones. Esta tecnología escanea el video y el retrato de un usuario específico, luego lo fusiona con otros videos o fotos separados para crear una foto o clip. Gracias al uso de las funciones inteligentes de IA, esta tecnología puede reemplazar los detalles básicos de identificación en un rostro humano, como los ojos, la boca, la nariz, junto con la velocidad del movimiento facial y el sonido de la voz para crear una copia casi real. Cuantos más datos de imagen originales haya en este proceso, más fácil será para la función de IA aprender y crear un rostro e imagen falsos que sean idénticos a una persona real.
Con el rápido desarrollo de la tecnología, el "deepfake" se está extendiendo rápidamente a muchos ámbitos de la vida, desde ayudar a alguien a elegir un peinado adecuado hasta intentar diseñar un atuendo específico. Por lo tanto, el objetivo de esta tecnología es muy positivo y es apreciado por muchos usuarios. Sin embargo, la otra cara del problema es la posibilidad de que personas y delincuentes la utilicen con fines maliciosos.
En consecuencia, los usuarios que proporcionan sus retratos o vídeos a software de edición de fotos en línea se convertirán fácilmente en víctimas de entretenimiento barato, como edición de fotos de desnudos, estimulación sexual, etc. Las personas que editan fotos solo pueden entretenerse, pero también pueden usar esas imágenes falsas para atacar a otros, ridiculizar, difamar o chantajear, insultar el honor de otros e incluso confundir y destruir las relaciones de los involucrados.
En segundo lugar, los delincuentes pueden usar la IA para crear personajes falsos, cometer fraudes en línea, como llamar a familiares y amigos para pedir dinero prestado y robar información con fines maliciosos. Incluso pueden hacerse pasar por usuarios para acceder a aplicaciones tecnológicas en línea, comprar y vender en línea, mediante tarjetas bancarias, etc., y apropiarse de activos. A partir de ahí, las redes de fraude, extorsión y terrorismo pueden usar cuentas virtuales con personajes falsos para llevar a cabo actos maliciosos.
La comunidad tecnológica ha listado temporalmente muchos programas y sitios web populares que utilizan tecnología "deepfake", como reface, zao, avatarify, deepfakes web β, myheritage, wombo… pero esta lista podría ser más larga y diversa debido al rápido desarrollo tecnológico. Por lo tanto, la comunidad de ciberseguridad advierte a los usuarios que tengan mucho cuidado con las estafas que utilizan tecnología deepfake. Si no tienen cuidado, algún día los usuarios se darán cuenta de que alguien se hace pasar por ellos para retirar dinero del banco o… para publicar en línea declaraciones políticas sobre un tema específico.
Los chicos y chicas que presumen alegremente sus fotos en línea, simulan sus imágenes y graban momentos memorables deberían reconsiderarlo. Porque nada es completamente gratuito y seguro para los usuarios, y cualquier descuido puede tener consecuencias muy lamentables. La comunidad en línea tiene un dicho: "Diviértete, pero no demasiado". ¡Quizás sea apropiado enfatizar esta advertencia!
Thuy Bat Nhi
Fuente
Kommentar (0)