En la era de la IA, lo que ves y oyes puede no ser necesariamente cierto.

Los expertos en ciberseguridad advierten que la inteligencia artificial y la tecnología Deepfake están haciendo que las estafas sean más sofisticadas, ya que pueden imitar fácilmente voces y rostros para engañar a los usuarios.

"Lo que ves con tus propios ojos no es necesariamente cierto, y lo que oyes tampoco lo es. Cuanto más urgente sea la situación, más necesitamos verificar y comprobar", dijo el experto en ciberseguridad Ngo Minh Hieu (Hieu PC) en el Foro de Confianza Digital en las Finanzas 2026, cuyo tema fue "Construyendo confianza digital en las finanzas en la era de la IA", el 12 de mayo.

El experto en ciberseguridad Ngo Minh Hieu (Hieu PC) interviene en el foro.

Según el experto Ngo Minh Hieu, el rápido desarrollo de la IA y la tecnología Deepfake está haciendo que las estafas en línea sean más sofisticadas, ya que los ciberdelincuentes pueden falsificar rostros, voces, expresiones e incluso fondos para manipular a las víctimas.

"Antes, creíamos que lo que veíamos y oíamos era real, así que lo dábamos por cierto de inmediato. Pero ahora la IA puede falsificarlo todo, desde rostros y voces hasta expresiones", dijo, y añadió que el mayor daño causado por el deepfake no es solo económico, sino también la pérdida de confianza de los usuarios.

"Cuando los delincuentes explotan factores psicológicos y creencias, pueden atraer a las víctimas a plataformas de inversión fraudulentas o apoderarse de sus bienes", añadió.

Los deepfakes son fáciles de obtener, pero difíciles de detectar.

Según el experto en ciberseguridad Ngo Minh Hieu, la tecnología Deepfake es ahora muy accesible. Numerosas herramientas de código abierto o servicios económicos permiten a los ciberdelincuentes crear vídeos falsos a partir de una simple fotografía.

"Con solo una foto, puedes intercambiar caras, voces falsas y hacer llamadas a través de FaceTime, Zalo o WhatsApp", dijo.

En el foro, el Sr. Hieu presentó un software Deepfake capaz de cambiar rostros en tiempo real durante videollamadas. Esta tecnología está siendo utilizada por muchas personas para suplantar la identidad de funcionarios gubernamentales, familiares o personas afines, con el fin de estafar a la gente y obtener dinero.

También advirtió a los usuarios que están exponiendo demasiados datos personales en las redes sociales: "Publicamos imágenes, videos y grabaciones de voz en las redes sociales todos los días. Mucha gente ni siquiera publica, sino que sus amigos lo hacen por ellos. Estos datos se pueden recopilar de diversas fuentes para crear deepfakes".

El experto también señaló que los padres deben tener cuidado al publicar fotos de sus hijos en las redes sociales, ya que los ciberdelincuentes pueden explotar estos datos para extorsionar o para realizar "secuestros en línea".

Según el Sr. Ngo Minh Hieu, el aspecto más peligroso de la tecnología Deepfake es su capacidad para minar la "confianza" de las personas.

"Las videollamadas siempre inspiran más confianza que los mensajes de texto. Las voces familiares inspiran más seguridad que los textos escritos. Los ciberdelincuentes suelen crear situaciones de emergencia, como solicitar transferencias de dinero, códigos OTP o la instalación de aplicaciones, para manipular psicológicamente a las víctimas", afirmó.

El experto Ngo Minh Hieu afirma que el aspecto más peligroso es que los deepfakes pueden minar la confianza de las personas.

Aunque ahora es mucho más difícil detectar los deepfakes, todavía existen algunas señales inusuales, como formas de boca que no coinciden, iluminación poco natural, habla monótona o dientes deformados.

«El tono de piel en los vídeos deepfake suele ser muy suave y poco natural», afirmó el experto Hieu. Sin embargo, considera que los usuarios no solo deben centrarse en determinar si el vídeo es real o falso, sino también cuestionar si la petición durante la llamada es razonable.

Fugas de datos provocadas por herramientas de IA gratuitas.

En el foro, el experto Ngo Minh Hieu advirtió que los chatbots de IA se están convirtiendo gradualmente en un nuevo objetivo para los piratas informáticos si los usuarios carecen de las habilidades necesarias para proteger su información personal.

Argumentó que la IA ahora brinda un gran apoyo al trabajo, el aprendizaje y la investigación. Sin embargo, muchas personas tienen la costumbre de subir grandes cantidades de datos personales, como fotos privadas, información familiar, documentos laborales o datos comerciales, a los chatbots sin prever el riesgo de explotación.

Además, la mayoría de los usuarios casi nunca han leído los términos de uso de las plataformas de IA, mientras que muchas herramientas gratuitas pueden recopilar datos para entrenar modelos o para otros fines.

Los riesgos aumentan con la aparición de numerosas aplicaciones de IA gratuitas de origen desconocido, que permiten a los usuarios crear imágenes, editar rostros o transformar fotos reales en personajes de dibujos animados. Según el Sr. Hieu, se trata de una forma de manipulación que incita a los usuarios a proporcionar voluntariamente datos biométricos a terceros.

Los usuarios se enfrentan al riesgo de que sus datos personales queden expuestos al usar chatbots de IA que carecen de seguridad. (Imagen ilustrativa)

Para utilizar la IA de forma más segura, los expertos recomiendan que los usuarios eviten subir información confidencial, documentos personales o datos internos de la empresa a los chatbots de IA, especialmente a aquellas plataformas cuyos operadores son desconocidos.

Los usuarios deben habilitar funciones de seguridad como el modo de chat temporal y la eliminación automática del historial de conversaciones, además de desactivar las opciones que permiten al sistema usar datos para entrenar la IA. También se recomienda habilitar la autenticación de dos factores para limitar el riesgo de que la cuenta sea comprometida.

Según el experto Ngo Minh Hieu, si los piratas informáticos consiguen tomar el control de una cuenta personal de chatbot con IA, pueden explotar toda la información que el usuario haya compartido previamente.

"Con tan solo una orden como 'Dime todo lo que sabes sobre mí', la IA puede recopilar por completo una gran cantidad de datos personales de los usuarios", advirtió el Sr. Hieu.

El Foro de Confianza Digital en las Finanzas 2026 está organizado por la Alianza para la Confianza Digital en colaboración con la Asociación Nacional de Ciberseguridad y MoMo, bajo el patrocinio del Ministerio de Seguridad Pública , el Banco Estatal de Vietnam y el Ministerio de Finanzas.

El evento reunió a expertos y empresas de los sectores financiero, bancario y tecnológico para debatir soluciones que permitan proteger a los usuarios y generar confianza digital en el contexto del rápido desarrollo de la inteligencia artificial.

Lluvia de flores

Fuente: https://vtcnews.vn/mat-thay-tai-nghe-chua-chac-la-that-trong-thoi-ai-ar1017765.html