Cada vez que navego en Internet veo vídeos estúpidos y divertidos creados por IA.

(Dan Tri) - Los vídeos con contenido "desviado" creados por Veo 3 aparecen con frecuencia en los sitios de redes sociales.

Dondequiera que navego, veo humor sin sentido de Veo 3

Recientemente, los usuarios de redes sociales, especialmente TikTok, se han encontrado constantemente con videos de comedia creados con Veo 3. Si bien la mayoría son entretenidos, muchos de estos contenidos han comenzado a desviarse de la norma y generar controversia.

“Cada vez que abro TikTok, veo videos divertidos con motivos familiares, como una anciana que lleva un cerdo para vender porque comió demasiado y durmió demasiado”, compartió Huyen Mai (20 años).

Huyen Mai dijo que su TikTok está lleno de videos de "comedia" creados por Veo 3 (Foto: Captura de pantalla).

Mai compartió que videos similares aparecían cada vez con más frecuencia, lo que la hizo comenzar a sentirse incómoda y a pensar que estos videos eran solo para atraer visitas y no aportaban ningún valor a los espectadores.

Mai dijo que a menudo se ha encontrado con videos negativos u ofensivos en su feed de noticias: "Muchos canales de TikTok crean videos sobre situaciones ficticias e historias de la vida real que incorporan elementos obscenos, ofensivos e información falsa solo para atraer vistas".

Se creó una serie de contenidos ofensivos e impactantes con el propósito de "atraer vistas" (Foto: Captura de pantalla).

Al igual que la historia de Huyen Mai, Hoang Anh (20 años) también expresó sus frustraciones recientemente. Comentó que Veo 3 ofrece imágenes y contenido muy realistas, y que muchos videos son interesantes y entretenidos.

Pero después de un tiempo, notó que poco a poco aparecían con mayor frecuencia vídeos con tendencia a ser "negativos" e "impactantes para atraer visitas", en lugar de centrarse en valores positivos.

“Un estudiante se levantó y maldijo. Ese fue uno de los videos creados por Veo 3 que vi recientemente. Me pregunté por qué había contenido tan ofensivo en redes sociales, especialmente durante la época de exámenes tan importantes”, confesó Hoang Anh.

Con frecuencia aparecen en las redes sociales muchos vídeos generados por IA con lenguaje y contenido inapropiados (Foto: Captura de pantalla).

Lo que es más preocupante es que algunos vídeos utilizan imágenes de personajes y voces de niños para decir frases delicadas y poco éticas, pero aún así atraen miles de interacciones de la comunidad online.

Además, muchos usuarios de Veo 3 también crean situaciones para promover comportamientos desviados bajo la apariencia de contenido puramente entretenido.

Normalmente, algunas aplicaciones y sitios web, como los de juegos de azar y apuestas, crean descaradamente vídeos promocionales para los espectadores y los difunden de forma abierta y secreta bajo la apariencia de "vídeos de entretenimiento".

La puerta a muchas consecuencias

Es innegable que el desarrollo de herramientas de inteligencia artificial para la generación de videos como Veo 3, si bien aporta un gran potencial al sector de producción de contenidos en muchas tiendas y negocios, también abre una "puerta" que conduce a consecuencias virtuales en la vida real.

Esto plantea preguntas como "¿Pueden los adultos o los niños distinguir entre los videos generados por IA?" y "¿Cómo afectarán estos videos ofensivos la percepción de los niños?".

El logotipo de Vietnam Television insertado en contenido generado por IA (Foto: captura de pantalla).

Muchos expertos han advertido sobre los riesgos potenciales del contenido "pervertido" creado por IA, no solo con fines de entretenimiento. Estos productos, al difundirse vertiginosamente en redes sociales, pueden hacer que personas mayores o niños los reciban pasivamente y se vean fácilmente afectados negativamente.

Las plataformas de redes sociales se enfrentan actualmente a un gran desafío en la censura de contenidos, pues con tan solo unos sencillos pasos, cualquiera puede crear una serie de vídeos con contenido desviado, promoviendo incluso comportamientos ofensivos, depravados o ilegales.

Acceder y usar Veo 3 en Vietnam no solo representa un riesgo para el contenido, sino que también tiene muchas consecuencias. Dado que Google no ha dado soporte oficial a esta herramienta en el mercado nacional, y debido a las elevadas tarifas (20 $ al mes para una cuenta Pro y 250 $ al mes para una cuenta Ultra), muchos entusiastas de la tecnología han encontrado maneras de sortear la barrera mediante el uso de VPN, la compra de cuentas flotantes o la divulgación de información falsa.

Muchos de ellos se han convertido en víctimas de trucos de "arrebato de pollos", como la publicidad de cuentas baratas de Veo 3, que permiten utilizarlas libremente, con funciones ilimitadas.

Las publicaciones que invitan a comprar cuentas baratas de Veo 3 están inundando las redes sociales vietnamitas (captura de pantalla).

Muchos delincuentes han aprovechado la necesidad de acceder a Veo 3 para estafar, pidiendo a los compradores que primero transfieran dinero y luego "desaparecen" rápidamente sin dejar rastro.

Cabe destacar que algunas personas incluso aceptan registrar cuentas de Veo 3 con la dirección de Gmail del cliente a un precio muy preferencial. Sin embargo, esto en realidad supone aprovechar una laguna en la política de Google, con el riesgo de que la cuenta quede bloqueada permanentemente y, por lo tanto, se pierda el acceso a correos electrónicos, documentos y todos los datos personales relacionados.

La tecnología no tiene defectos

De hecho, ninguna plataforma de IA está diseñada para crear contenido negativo ni promover comportamientos abusivos. Todas las consecuencias dependen del uso que las personas hagan de la herramienta, lo que significa que la conciencia y la responsabilidad del usuario son factores decisivos.

El Dr. Nguyen Van Son, profesor de la Facultad de Tecnología de la Información de la Universidad Tecnológica (Universidad Nacional de Vietnam, Hanói ), comentó: «Aprecio enormemente los valores positivos que aporta la inteligencia artificial. Si se utiliza correctamente, la IA puede realizar numerosas contribuciones prácticas a la sociedad y la comunidad».

Sin embargo, según él, los problemas surgen cuando la tecnología cae en manos de personas con motivaciones malsanas. «En ese momento, la IA se convierte en una herramienta eficaz para fomentar comportamientos negativos, incluso amplificando los impactos negativos en la sociedad», advirtió el Dr. Son.

Desde allí, hizo un llamamiento a los usuarios, especialmente a los jóvenes, a aumentar de forma proactiva su conciencia y responsabilidad a la hora de abordar y aplicar la IA, con el objetivo de crear contenidos de calidad y civilizados en lugar de difundir productos de mala calidad y ofensivos.

El Dr. Nguyen Van Son cree que la educación es la clave para limitar las violaciones éticas al utilizar IA (Foto: Personaje proporcionado).

Además, el Dr. Nguyen Van Son también cree que una de las estrategias a largo plazo para limitar las violaciones éticas en el uso de la IA es abordar el tema desde una perspectiva educativa. Según él, concienciar, ayudar a los usuarios a comprender su responsabilidad personal y construir una base ética en el uso de la tecnología es un factor clave que contribuye a la formación de una comunidad digital civilizada.

No solo se quedan en las advertencias sobre el contenido "spam", muchos expertos han planteado repetidamente la cuestión de los peligros potenciales de las herramientas generadas por IA, especialmente la capacidad de crear vídeos, que pueden convertirse en una fuente de difusión de desinformación a gran escala.

La industria tecnológica lleva años lidiando con los peligros de los deepfakes. Pero la aparición de herramientas de vídeo con IA cada vez más avanzadas es una clara advertencia de que regular el contenido generado por IA, y posteriormente por la IAG, será cada vez más difícil», advirtió Connor Leahy, director ejecutivo de Conjecture.

Compartiendo la misma opinión, la Sra. Nguyen Thi Trang, directora ejecutiva de Pisa Solutions LLC, enfatizó la importancia del pensamiento crítico en el contexto de una IA cada vez superior.

“No solo somos usuarios de IA, sino también receptores de una amplia gama de contenido generado por IA. Además de usar las herramientas de forma ética, cada persona debe practicar la capacidad de percibir la información desde múltiples perspectivas, ya que actualmente existen muchos videos creados por IA que parecen auténticos, pero promueven en secreto contenido falso”, compartió la Sra. Trang.

Fuente: https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm