Al volver a mirar, se dio cuenta de que solo era una foto de IA usada por una página de Facebook para ilustrar una publicación sentimental. Cabe destacar que esta era la segunda vez que la IA "casi" la engañaba. Antes de eso, también confundió el video de "jubilados reunidos con veraneantes" con personas y eventos reales.

La Sra. Linh, que trabaja en la industria de los medios y está expuesta regularmente a contenidos de inteligencia artificial, debe admitir que esta tecnología se ha desarrollado tan rápida y sofisticadamente que es difícil distinguir entre lo real y lo falso.

captura de pantalla 1749203761184.png
La foto viral en Facebook fue creada por IA. Captura de pantalla.

Los expertos coinciden con esta opinión. Herramientas como Google Veo 3, Kling AI, DALL·E 3, Midjourney... han logrado crear imágenes y vídeos increíblemente realistas.

El Sr. Do Nhu Lam, Director de Capacitación del Instituto de Tecnología Blockchain e Inteligencia Artificial ABAII, señaló que gracias a la tecnología multimodal y a los modelos de lenguaje avanzados, estas herramientas pueden sincronizar imágenes, sonidos, expresiones faciales y movimientos naturales, creando productos altamente convincentes.

Foto del Sr. Do Nhu Lam.jpg
El Sr. Do Nhu Lam, Director de Capacitación del Instituto de Tecnología Blockchain e Inteligencia Artificial ABAII, afirmó que la tecnología avanzada de IA genera productos muy convincentes. Foto: NVCC

El Sr. Lam comentó que los avances en IA abren un gran potencial en áreas como la creación de contenido, la publicidad, el entretenimiento y la educación . Sin embargo, esta capacidad de recrear la realidad también plantea numerosos desafíos en materia de ética, control y seguridad de la información, ya que la frontera entre la realidad y la virtualidad es cada vez más difusa.

La publicación de Facebook que vio la Sra. Linh generó casi 300.000 interacciones y más de 16.000 comentarios. Muchos usuarios se apresuraron a felicitar o expresar sus sentimientos sin saber que se trataba simplemente de una ilustración de IA. Algunas personas más sobrias criticaron a los internautas por ser demasiado ingenuos al dejarse engañar por la IA.

En grupos y foros de Facebook, no es difícil ver videos de IA creados y compartidos por los usuarios. En particular, la llegada de Google Veo 3 ha mejorado significativamente la calidad de los videos, especialmente la voz que se adapta a la forma de la boca del personaje. Si no se presta atención y se mira con atención, los espectadores pueden confundirse fácilmente.

Mantener la cordura en la era de la IA

Las fotos y los vídeos creados con IA son difíciles de distinguir, lo que supone un gran riesgo para los usuarios, especialmente para los grupos vulnerables con poca experiencia en tecnología. Según el Sr. Vu Thanh Thang, Director de Inteligencia Artificial (CAIO) de SCS Cyber ​​Security Joint Stock Company, los ciberdelincuentes utilizan la IA para cometer fraudes (evadir sistemas biométricos, eKYC, etc.), haciéndose pasar por famosos para difundir información falsa y generar confusión pública. Existen numerosos casos de delincuentes tecnológicos que se aprovechan de la IA para crear fotos deepfake y hacerse pasar por familiares para realizar videollamadas y estafar.

Sr. Vu Thanh Thang.jpg
El Sr. Vu Thanh Thang, Director de Inteligencia Artificial (CAIO) de SCS Cyber ​​Security Joint Stock Company, afirmó que hemos entrado en una era donde todo se puede falsificar. Foto: NVCC

Según el Sr. Thang, las empresas también son objetivos potenciales para los delincuentes de IA. Pueden usar IA Deepfake para suplantar la identidad de empleados, eludir los sistemas de seguridad para desbloquear la asistencia y suplantar la identidad de líderes empresariales para difamar y destruir la reputación.

Compartiendo la misma opinión, el Sr. Do Nhu Lam, de ABAII, señaló tres consecuencias de la IA para los usuarios individuales: fraude financiero, difamación de la reputación y explotación de información privada. En el caso de las empresas, la empresa Arup perdió 25 millones de dólares después de que empleados de su sucursal de Hong Kong fueran engañados para participar en una videoconferencia ultrafalsa y transferir el dinero solicitado.

Todo lo que necesita saber sobre Veo 3, la actual herramienta de IA para generar videos virales El último modelo de IA para generar videos de Google, Veo 3, impresiona por su capacidad para crear sonido realista que se sincroniza con las imágenes.

Otro riesgo igualmente grave es que cuando la gente no puede distinguir entre lo real y lo falso, se erosionará la confianza pública en los medios y las fuentes de noticias oficiales.

El Sr. Lam citó un informe de 2024 del Instituto Reuters que muestra que el porcentaje de usuarios globales que confían en las noticias en las plataformas de medios ha caído a su nivel más bajo en una década, en gran medida debido a la aparición de contenido deepfake.

Según el experto Vu Thanh Thang, «vivimos una era en la que toda la información puede falsificarse y ya no supone un riesgo». Por lo tanto, es necesario concienciar y aplicar medidas de protección personal, así como aprender más sobre la IA para viviren paz .

Los dos expertos recomiendan que los usuarios siempre verifiquen y autentiquen la información antes de tomar decisiones; se capaciten para identificar contenido falso; limiten el intercambio de información personal en línea; y denuncien la difusión de contenido falso. «Solo siendo proactivos y estando bien informados, los usuarios pueden protegerse verdaderamente y contribuir a la construcción de un ciberespacio más seguro en la era digital», afirmó el Sr. Lam.

Preocupado por la extinción humana debido a la IA, el 'padrino' Yoshua Bengio acaba de hacer algo El 'padrino' de la IA Yoshua Bengio acaba de fundar una organización sin fines de lucro con el objetivo de crear sistemas de inteligencia artificial seguros, en lugar de mostrar personalidades peligrosas a los humanos.

Fuente: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html