Redes sociales, inteligencia artificial y algoritmos de amplificación: la combinación “atómica” que está revolucionando el mundo.

Algoritmo de incitación al odio

Los algoritmos de las redes sociales ya no solo sugieren contenido entretenido, sino que también amplifican el discurso de odio y la ideología extremista. El secretario general de la ONU, António Guterres, advirtió que algunas plataformas de redes sociales se han convertido en «vertederos tóxicos» repletos de discurso de odio y desinformación, lo que alimenta la propagación del extremismo.

Estudios realizados en el mundo real demuestran que, en tan solo unos días, los algoritmos de recomendación pueden agravar el problema. Por ejemplo, un estudio realizado en el Reino Unido reveló que el algoritmo de TikTok cuadruplicó las recomendaciones de contenido misógino, pasando del 13 % al 56 % de los vídeos en tan solo cinco días.

Los investigadores explican que el algoritmo se dirige automáticamente a las vulnerabilidades de los usuarios (como sentimientos de soledad, pérdida de control, odio), convirtiendo el contenido extremista en un “entretenimiento” atractivo para captar la atención de los espectadores.

Hoy en día, en las redes sociales, incluso pequeñas informaciones o rumores infundados pueden fácilmente desencadenar violencia. Un ejemplo típico son los disturbios ocurridos en el Reino Unido en 2024. Tras el ataque en Southport, se difundieron rápidamente en las redes sociales rumores falsos sobre el sospechoso —que era musulmán o refugiado—, junto con discursos antimusulmanes y xenófobos. Según un informe de 2024 de la Oficina de Rendición de Cuentas del Gobierno de Estados Unidos (GAO), casi un tercio de los usuarios de internet han estado expuestos a discursos de odio en línea.
En particular, una serie de protestas graves recientes, disturbios protagonizados por la Generación Z o estudiantes en diferentes países, desde Asia y África hasta América Latina, fueron iniciados e instigados en plataformas de redes sociales, con un escenario prácticamente idéntico: explotar un problema y luego incitar a toda la sociedad.

Él conquistó — El software de IA y los algoritmos de amplificación manipulan tanto el mundo virtual como el real. Ilustración: Nafets

La mayor parte del mundo está inmersa en la "ilusión".

La explosión de la IA está descontrolando la situación, permitiendo que casi cualquiera cree una «fábrica de noticias falsas» a una escala y velocidad sin precedentes. Modelos de IA como GPT, Claude o LLaMA pueden generar automáticamente una serie de artículos, imágenes y vídeos distorsionados en un instante. Un sistema de bots de IA puede crear y compartir simultáneamente miles de publicaciones o comentarios, convirtiendo las noticias falsas y tóxicas en «tendencias» en línea.

Un estudio de la Universidad RIT en Estados Unidos afirmó: “La IA ha acelerado enormemente la amplificación de todo tipo de desinformación… Los bots de IA pueden difundir este contenido por internet, porque no necesitan depender de los humanos para crearlos”.

Hoy en día, por apenas unas decenas de dólares al mes por una herramienta de IA, cualquier persona puede crear miles de imágenes y vídeos falsos de cualquier tipo, desde voces y fotos hasta vídeos. El nivel de sofisticación y la omnipresencia de esta tecnología son tan grandes que todos nos preguntamos: ¿Lo que vemos en las redes sociales está generado por IA?

Pero lo irónico es que la mayor parte del mundo está inmersa en ese mundo virtual durante horas, todos los días, incluso disfrutándolo como si fuera una adicción. Según el informe Digital 2025, entre 5200 y 5600 millones de personas utilizan redes sociales, lo que equivale al 64 % de la población mundial. Y el tiempo promedio que cada persona dedica a las redes sociales ronda las 2 horas y 20 minutos al día.

Necesidad de controlar las bombas "atómicas"

Con la producción de noticias falsas y desinformación a un ritmo cada vez más bajo y peligroso, el control del contenido en internet prácticamente se ha escapado de las manos humanas. El experto en tecnología Lukasz Olejnik, del King's College de Londres (Reino Unido), comentó: «Cada mes, las fábricas [de noticias falsas] se vuelven más baratas, sofisticadas y difíciles de detectar».

Mientras tanto, un estudio de RAND de 2024 señaló que la posibilidad de que la IA pueda “llenar internet” de cuentas falsas en redes sociales es clara y casi inevitable sin algún giro inesperado.

La tecnología nuclear fue en su momento un gran invento de la humanidad, al igual que las redes sociales. Sin embargo, si no se controla, podría causar un desastre. De igual modo, si las redes sociales, la IA y los algoritmos de amplificación se descontrolan, podrían desencadenar «bombas atómicas» en el ciberespacio, con la potencia suficiente para destruir el mundo real.

Fuente: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html