Al volver a mirar, se dio cuenta de que solo era una foto de IA usada por una página de Facebook para ilustrar una publicación sentimental. Cabe mencionar que esta era la segunda vez que la IA "casi" la engañaba. Antes de eso, también confundió el video de "jubilados reunidos con veraneantes" con personas y eventos reales.

La Sra. Linh, que trabaja en el ámbito de los medios de comunicación y está expuesta regularmente a contenidos de inteligencia artificial, tuvo que admitir que esta tecnología se ha desarrollado tan rápida y sofisticadamente que es difícil distinguir entre lo real y lo falso.

captura de pantalla 1749203761184.png
La foto viral en Facebook fue creada por IA. Captura de pantalla.

Los expertos también coinciden con esta opinión. Herramientas como Google Veo 3, Kling AI, DALL·E 3, Midjourney... han alcanzado la capacidad de crear imágenes y vídeos increíblemente realistas.

El Sr. Do Nhu Lam, Director de Capacitación del Instituto de Tecnología Blockchain e Inteligencia Artificial ABAII, señaló que gracias a la tecnología multimodal y a los modelos de lenguaje avanzados, estas herramientas pueden sincronizar imágenes, sonidos, expresiones faciales y movimientos naturales, creando productos altamente convincentes.

Foto del Sr. Do Nhu Lam.jpg
El Sr. Do Nhu Lam, Director de Capacitación del Instituto de Tecnología Blockchain e Inteligencia Artificial ABAII, afirmó que la tecnología avanzada de IA genera productos muy convincentes. Foto: NVCC

El Sr. Lam comentó que los avances de la IA abren un gran potencial en áreas como la creación de contenido, la publicidad, el entretenimiento y la educación . Sin embargo, esta capacidad de recrear situaciones "reales" también plantea numerosos desafíos en materia de ética, control y seguridad de la información, ya que la frontera entre la realidad y la virtualidad es cada vez más difusa.

La publicación de Facebook que vio la Sra. Linh generó casi 300.000 interacciones y más de 16.000 comentarios. Muchos usuarios se apresuraron a felicitar o expresar sus sentimientos sin saber que se trataba simplemente de una ilustración de IA. Algunas personas más sobrias criticaron a los internautas por ser demasiado ingenuos como para dejarse engañar por la IA.

En grupos y foros de Facebook, no es difícil ver videos de IA creados y compartidos por los usuarios. En particular, la llegada de Google Veo 3 ha mejorado significativamente la calidad de los videos, especialmente la voz que se adapta a la forma de la boca del personaje. Si no se presta atención y se mira con atención, los espectadores pueden confundirse fácilmente.

Mantener la cordura en la era de la IA

Las fotos y los vídeos creados con IA son difíciles de distinguir, lo que supone un gran riesgo para los usuarios, especialmente para los grupos vulnerables con poca experiencia en tecnología. Según el Sr. Vu Thanh Thang, Director de Inteligencia Artificial (CAIO) de SCS Cyber ​​Security Joint Stock Company, los ciberdelincuentes utilizan la IA para cometer fraudes (evadir sistemas biométricos, eKYC, etc.), suplantando la identidad de famosos para difundir información falsa y generar confusión pública. Existen numerosos casos de delincuentes tecnológicos que se aprovechan de la IA para crear fotos deepfake y suplantar la identidad de familiares para realizar videollamadas y estafar dinero.

Sr. Vu Thanh Thang.jpg
El Sr. Vu Thanh Thang, Director de Inteligencia Artificial (CAIO) de SCS Cyber ​​Security Joint Stock Company, afirmó que hemos entrado en una era donde todo se puede falsificar. Foto: NVCC

Según el Sr. Thang, las empresas también son objetivos potenciales para los delincuentes de IA. Pueden usar IA Deepfake para suplantar la identidad de empleados, eludir los sistemas de seguridad para desbloquear la asistencia y suplantar la identidad de directivos empresariales para difamar y destruir la reputación.

Compartiendo la misma opinión, el Sr. Do Nhu Lam, de ABAII, señaló tres consecuencias para los usuarios individuales causadas por la IA: fraude financiero, difamación de la reputación y explotación de información privada. En el caso de las empresas, la empresa Arup perdió 25 millones de dólares después de que empleados de su sucursal de Hong Kong fueran engañados para participar en una videoconferencia ultrafalsa y transferir el dinero solicitado.

Todo lo que necesitas saber sobre Veo 3, la actual herramienta de IA para generar videos virales El último modelo de IA para generar videos de Google, Veo 3, impresiona por su capacidad para crear sonido sincronizado de manera realista con imágenes.

Otro riesgo igualmente grave es que cuando la gente no puede distinguir entre lo real y lo falso, se erosionará la confianza pública en los medios y las fuentes de noticias oficiales.

El Sr. Lam citó un informe de 2024 del Instituto Reuters que muestra que el porcentaje de usuarios globales que confían en las noticias en las plataformas de medios ha caído a su nivel más bajo en una década, en gran medida debido a la aparición de contenido deepfake.

Según el experto Vu Thanh Thang, «estamos en una era donde toda la información puede ser falsificada y ya no representa un riesgo». Por lo tanto, es necesario concienciar, aplicar medidas de protección personal y aprender sobre IA para vivir en paz .

Los dos expertos recomiendan que los usuarios siempre verifiquen y autentiquen la información antes de tomar decisiones; se capaciten para identificar contenido falso; limiten el intercambio de información personal en línea; y denuncien la difusión de contenido falso. «Solo siendo proactivos y estando bien informados, los usuarios pueden protegerse verdaderamente y contribuir a la construcción de un ciberespacio más seguro en la era digital», afirmó el Sr. Lam.

Preocupado por la extinción humana debido a la IA, el 'padrino' Yoshua Bengio acaba de hacer algo . El 'padrino' IA Yoshua Bengio acaba de fundar una organización sin fines de lucro con el objetivo de crear sistemas de inteligencia artificial seguros, en lugar de mostrar personalidades peligrosas a los humanos.

Fuente: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html