Un vídeo que muestra a una supuesta IA haciéndose pasar por una persona discapacitada para vender productos provoca indignación.

Cuenta que utiliza IA para suplantar la identidad del vendedor. Foto: TikTok .

Con la aparición reciente de diversas herramientas avanzadas de IA, crear fotos y vídeos se ha simplificado enormemente con tan solo unos pocos comandos. Sin embargo, la capacidad de los usuarios de internet para distinguir entre lo real y lo falso no ha evolucionado al mismo ritmo, y ha sido explotada por algunos con fines lucrativos.

Recientemente, se ha viralizado en redes sociales una cuenta de TikTok que publica una serie de videos sobre una mujer con ambos brazos amputados que se ve obligada a vender productos para mantener a sus hijos pequeños. En los videos, esta mujer viste ropa sencilla y habla con empatía para promocionar productos como toallas de papel y detergente.

Según consta en los registros, la mujer compartió la difícil situación de su esposo, quien falleció prematuramente en un accidente, y cómo tuvo que criar sola a un niño pequeño. Sin embargo, la historia no coincidía en los videos. La cuenta recibió millones de visualizaciones e interacciones, alcanzando los 100.000 seguidores en tan solo tres días desde la creación del canal. Muchas personas expresaron su solidaridad, solicitaron apoyo e incluso hicieron pedidos de productos para ayudar.

Los usuarios siguen descubriendo cuentas con contenido similar. Lo que tienen en común estos canales es que son páginas personales recién creadas, carecen de historial de interacción real y, a menudo, comparten contenido excesivamente emotivo.

Estos canales suelen ser nuevos y no tienen un perfil definido.

Sin embargo, al poco tiempo, los internautas notaron algo extraño e incoherente en cada video. Por ejemplo, el brazo amputado de la mujer lucía muy liso, la pintura de las paredes de la casa era diferente o el bebé permanecía inusualmente quieto. La razón era que todos los videos habían sido creados por inteligencia artificial para engañar a la gente.

Cabe destacar que los comentarios de advertencia o denuncia fueron ocultados o eliminados por el propietario de la cuenta. Muchas personas se sintieron ofendidas por haber sido engañadas, así como indignadas por la conducta de lucrarse con la compasión de la gente.

Además, estos videos falsos también afectan a los propietarios y a otras personas con discapacidad que se ganan la vida en la misma plataforma. La Sra. Tran Thi Nga (36 años), residente en Phu Tho y propietaria del canal Nga Tich Cuc, tuvo que aclarar repetidamente que realmente le habían amputado un brazo.

A finales de 2024, esta persona contrajo miocarditis viral aguda y tuvo que someterse a la amputación de sus cuatro extremidades, comenzando una nueva vida con el amor de su familia. En una transmisión en vivo reciente, expresó su tristeza por haber sido puesta en duda y haber recibido comentarios hirientes.

Estos canales recién creados también adquirieron rápidamente un gran número de seguidores, lo que dificultó su diferenciación. Otra cuenta con contenido similar, llamada NLS, aumentó en casi 50 000 seguidores tras la publicación de un solo vídeo.

Los usuarios expresaron indignación y pérdida de confianza al ser engañados.

Por lo tanto, no se puede culpar a la comunidad en línea por perder gradualmente la fe en lo que ve y, en consecuencia, dejar de preocuparse por quienes realmente necesitan ayuda. Un comentario decía que quienes utilizan la inteligencia artificial para manipular las emociones de la comunidad deberían ser condenados.

Las estafas cibernéticas son cada vez más sofisticadas y se dirigen a personas con poco contacto o a personas mayores. La mayoría de los estafadores utilizan imágenes de personas que sufren traumas, como hospitalizaciones o discapacidades, y luego adjuntan carritos de compra o dejan números de cuenta para que los usuarios llamen y soliciten ayuda.

Anteriormente, CNBC descubrió más de 30 cuentas de Instagram, YouTube y TikTok que utilizaban inteligencia artificial para suplantar la identidad de personas con síndrome de Down. Estas personas usaban historias conmovedoras para atraer seguidores y solicitar donaciones a la comunidad, pero en realidad, se apropiaban de las cuentas para su propio beneficio.

Este incidente pone de manifiesto la posibilidad de que la capacidad de la IA para reproducir contenido realista sea explotada por ciberdelincuentes. Dado el rápido desarrollo de la tecnología, es fundamental que los usuarios la popularicen y ayuden a sus seres queridos a evitar ser víctimas de estafas en línea.

Kommentar (0)