A diferencia del período anterior, cuando el acceso a herramientas artificiales para crear videos deepfake era bastante limitado, muchas herramientas de IA como Grok, ChatGPT, Meta AI, Gemeni y DeepSeek se han lanzado ampliamente y permiten el uso gratuito de funciones básicas, como la creación de imágenes. Los usuarios pueden crear la imagen deseada o incluso recortarla y editarla sin necesidad de comprender técnicas de procesamiento especializadas. Esto ha impulsado un aumento en el uso de IA para crear empalmes faciales con fines que van desde el entretenimiento hasta las amenazas en internet.
La Sra. YN (Distrito 1, Ciudad Ho Chi Minh) declaró que en una ocasión fue víctima de manipulación de imágenes mediante IA con fines de amenaza y que le exigieron pagar una gran suma de dinero si quería recuperar datos "sensibles", a pesar de que todos fueron creados con herramientas de inteligencia artificial. En concreto, sus imágenes personales fueron recopiladas por delincuentes, cuyos rostros fueron editados para crear contenido inapropiado, creando chats sensibles y luego acudiendo a la Sra. YN para chantajearla.
Los delincuentes utilizan IA para editar, recortar y chantajear a sus víctimas
"Me mostraron capturas de pantalla de los chats, imágenes y videos falsos que crearon y luego me pidieron 100 millones de VND para borrar el contenido. Debo admitir que las imágenes compuestas son irreconocibles como reales o falsas", compartió la víctima, y agregó que había denunciado el comportamiento mencionado a las autoridades.
El caso de la Sra. YN es solo uno de los muchos incidentes recientes relacionados con el abuso de la inteligencia artificial y las herramientas de edición de imágenes con fines maliciosos. Actualmente, los usuarios de redes sociales en Vietnam aún se muestran muy despreocupados al compartir imágenes personales, de amigos y familiares en línea y públicamente, a pesar de las numerosas advertencias de expertos en seguridad informática sobre este tema.
Recientemente, el Ministerio de Seguridad Pública también advirtió a los usuarios de teléfonos sobre la aparición de delincuentes que aprovechan imágenes y videos públicos en internet, editándolos, cortándolos y combinándolos para crear contenido sensible con el fin de amenazarlos y chantajearlos. "Se recomienda a las personas estar alertas al recibir mensajes o llamadas con dicho contenido y no transferir dinero si se sienten amenazadas. Al detectar indicios de fraude o extorsión, deben reportarse rápidamente a la agencia policial más cercana y a través de la aplicación VNeID", indicaba el aviso.
Además del chantaje, los delincuentes también pueden usar numerosas imágenes y vídeos personales públicos de la víctima para crear contenido falso con el fin de difamar la reputación laboral, vengarse personalmente y dañar el espíritu y el honor. Cabe destacar que estos documentos falsos son cada vez más sofisticados y difíciles de identificar tanto para la gente común como para quienes se interesan en el campo de la inteligencia artificial.
Un estudio realizado a finales del año pasado por Tidio, empresa polaca que desarrolla chatbots de IA para impulsar las ventas, reveló que la mayoría de los usuarios de internet tienen cada vez más dificultades para distinguir entre imágenes generadas por IA. La empresa afirma que el 87 % de los encuestados confundió las imágenes de IA con fotos de personas reales. Además, el 62 % de los encuestados expresó interés en la IA y el aprendizaje automático, pero la mitad de este grupo no logró identificar correctamente las imágenes generadas por inteligencia artificial.
Actualmente no existen regulaciones específicas para el uso de IA en delitos cibernéticos, pero el uso de imágenes de otras personas para amenazar, chantajear o difundir información falsa aún puede ser manejado bajo disposiciones relacionadas con el delito de humillación a otros, extorsión de propiedad o difusión de productos culturales obscenos.
Ante esta situación, los expertos recomiendan a los usuarios ser cautelosos al compartir imágenes personales en redes sociales y utilizar herramientas de seguridad para controlar la privacidad.
[anuncio_2]
Fuente: https://thanhnien.vn/canh-giac-ke-xau-loi-dung-ai-ghep-mat-nan-nhan-de-de-doa-tong-tien-185241107153341681.htm
Kommentar (0)