La nueva tecnología de IA para la generación de videos ofrece muchas oportunidades para los usuarios, pero también plantea riesgos.
El 9 de julio, la Policía de Ho Chi Minh informó que, gracias a la labor de recepción de informes y denuncia de delitos, no se han registrado casos de fraude con la tecnología de creación de videos AI Veo 3. Sin embargo, es necesario estar alerta, ya que, además de sus ventajas, esta tecnología puede ser utilizada por delincuentes para cometer actos ilegales.
Según el Departamento de Seguridad Cibernética y Prevención de Delitos de Alta Tecnología (PA05) de la Policía de la ciudad de Ho Chi Minh, las aplicaciones de IA generativa, también conocidas como IA artificial (como Swapface, SoraAI, ChatGPT, Deepseek...), que permiten a los usuarios crear vídeos, imágenes, transmisiones en vivo con cambios de voz y cambios de rostro se han vuelto cada vez más populares.
A finales de mayo de 2025, Google lanzó Google Veo 3, una nueva tecnología de creación de vídeos con IA que está causando fiebre en plataformas de redes sociales tan populares como Facebook, X... con la capacidad de crear imágenes, contenidos y movimientos tanto de personajes como de fondos, especialmente la capacidad de crear automáticamente efectos de sonido y voces en off bajo demanda, lo que dificulta que muchos espectadores distingan si se trata de un producto de IA o de una escena real.
Además de los efectos positivos (gran potencial en la creación de contenidos, educación , cine, medios de comunicación...), esta tecnología puede ser explotada por sujetos para cometer actos ilícitos.
Por ejemplo, de la imagen de una persona, los malos pueden aprovechar la tecnología de Veo 3 para "extraer" automáticamente mucha información importante como: el rostro del dueño de la foto; la ubicación geográfica que la persona de la foto visita a menudo; productos y servicios que utiliza a menudo; hábitos de vida... recreando así el rostro y la voz solo con imágenes y sonidos tomados del ciberespacio; creando a partir de aquí una "copia digital" realista.
Un truco común de los estafadores que usan tecnología de IA es que, después de crear una "copia digital", hacen que alguien se haga pasar por un familiar o una agencia gubernamental (policía, tribunal, fiscalía, oficina de impuestos, hospital, etc.) para hacer una videollamada y pedirles que hagan lo solicitado o finjan entrar en pánico y pidan ayuda de emergencia para explotar la ansiedad de la víctima; una vez que la víctima ha transferido el dinero, el estafador "desaparece" inmediatamente.
Además, los malos también pueden utilizar esta herramienta para otros fines ilegales como: contenido pornográfico, difundir información falsa... para extorsionar la propiedad.
Según PA05, en el futuro, los delincuentes seguirán aprovechándose del desarrollo científico y tecnológico para explotar, operar y cometer actos ilegales. Mientras tanto, el conocimiento y la concienciación de la población sobre identificación, autoprevención y vigilancia aún son limitados.
Para mejorar la eficacia de la lucha contra las actividades fraudulentas de apropiación de activos en el ciberespacio en el próximo tiempo, la Policía de la Ciudad seguirá informando al Ministerio de Seguridad Pública para asesorar al Partido y al Estado para completar el corredor legal, el trabajo de gestión estatal de la seguridad y el orden, el trabajo de movilización de las masas para participar en el movimiento de todo el pueblo para proteger la seguridad nacional a nivel de base para aumentar la conciencia y la vigilancia, aumentar la eficacia en la prevención y detección de actividades fraudulentas de apropiación de activos en el ciberespacio.
Además, la Policía de la ciudad de Ho Chi Minh recomienda lo siguiente a la gente:
Esté atento a los mensajes y llamadas de números desconocidos con contenido sobre situaciones inesperadas; verifique, verifique y determine cuidadosamente la exactitud de la información; absolutamente no escuche, no siga instrucciones, no transfiera dinero según lo solicitado por malos, no acceda a enlaces de origen desconocido enviados en mensajes, correos electrónicos, etc.
Limite la publicación de contenido relacionado con información personal en plataformas de redes sociales públicas... para evitar casos en que los malos roben información como imágenes, videos, voces; al mismo tiempo, configure las cuentas de redes sociales personales en modo privado para proteger la información; solo instale aplicaciones en línea de fuentes oficiales del sistema operativo del teléfono (CH Play, AppStore).
En caso de descubrir un fraude o sospechar de fraude utilizando los trucos anteriores, debe informar rápidamente a la agencia policial más cercana para obtener asistencia y resolución oportunas.
Fuente: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm
Kommentar (0)