La legendaria lucha contra la desinformación, los deepfakes y las estafas

(NB&CL) Además de la guerra, la violencia armada y las profundas divisiones geopolíticas globales, el mundo en 2024 sigue enfrentando otra gran batalla contra la desinformación, las noticias falsas y el fraude. Este problema será una historia legendaria difícil de erradicar y se prevé que se agrave si el mundo no se une para tomar medidas drásticas.

Caos informativo: un peligro cada vez mayor

La disrupción de la información, especialmente la desinformación y el ciberfraude, se considera una "pandemia global", una batalla común a nivel mundial en la que los medios de comunicación tradicionales, con su misión de proteger la verdad, deben desempeñar un papel protagónico. Sin embargo, esta batalla solo podrá tener éxito si se implementan medidas drásticas y fundamentales en cada país y en las organizaciones globales.

Las noticias falsas, la desinformación y, especialmente, las actividades fraudulentas se han convertido en consecuencias inevitables y aspectos negativos de la nueva era mediática mundial. En resumen, el escenario ya no es exclusivo de las agencias de medios y los periódicos censurados. Como sabemos, la explosión de internet, los dispositivos de alta tecnología y, en especial, las redes sociales han hecho posible que cualquiera pueda convertirse en "periodista", "reportero" o incluso en "portavoz" seguido por millones de personas.

Redes sociales, un mundo sin reglas

Todo tiene dos caras. La explosión de las redes sociales ha traído consigo numerosos beneficios, como la rápida y amplia difusión de la información y el conocimiento. Hoy en día, la información sobre un accidente llega a todos en cuestión de minutos, incluso si ocurre al otro lado del mundo. La información sobre desastres naturales como inundaciones, tormentas, incendios forestales... también se actualiza rápidamente a través de las redes sociales o se comparte, lo que facilita la difusión o la alerta eficaz.

Sin embargo, junto con los aspectos positivos, las redes sociales y las plataformas de intercambio comunitario están trayendo consecuencias preocupantes. Aún más alarmante es que no solo los humanos, sino también las máquinas y, en especial, la rápida penetración de la inteligencia artificial (IA), están convirtiendo el mundo de internet en general, y las plataformas tecnológicas en particular, en un entorno con demasiados riesgos.

“Pandemia de información” en las redes sociales

Según las estadísticas publicadas por Redline a finales de junio de 2024, hay 4.900 millones de usuarios de redes sociales en todo el mundo. Según esta encuesta realizada a estadounidenses, la mayoría de los usuarios de redes sociales desconfían de la veracidad de la información difundida en estas plataformas, desde Facebook y TikTok hasta YouTube. Por ello, esta organización utilizó el término "infodemia" para referirse al estado actual de la desinformación en redes sociales.

El mundo de las redes sociales es como un bosque primario, prácticamente sin reglas. En él, la gente disfruta de fertilidad, libertad y tranquilidad, pero también de trampas mortales. Hasta ahora, casi todos los países siguen luchando por gestionar y organizar ese "bosque primario", incluso dando los primeros pasos para abordar las infracciones, mientras que este "mundo" ha abarcado a toda la humanidad.

A finales de noviembre de este año, Australia se convirtió en el primer país del mundo en promulgar oficialmente una ley que prohíbe a los niños acceder al fascinante, pero peligroso y casi anárquico, mundo "primitivo". En concreto, Australia prohibió a los menores de 16 años usar las redes sociales e impondrá fuertes multas de hasta 32 millones de dólares si infringen las normas en las redes sociales.

En ese contexto, la proliferación de noticias falsas, desinformación y, especialmente, fraudes en redes sociales (así como a través de otras formas de alta tecnología, como aplicaciones de software, sitios web fraudulentos, etc.) se está convirtiendo en un problema global. En Vietnam, escuchamos a diario historias desgarradoras sobre víctimas de estafadores de todo tipo en el ciberespacio. A nivel mundial, esto también representa un problema para cualquier país.

En marzo de este año, Interpol informó que el fraude cibernético en el Sudeste Asiático se ha expandido globalmente, generando ingresos de hasta 3 billones de dólares al año (equivalente al PIB de Francia). Incluso un gigante tecnológico británico perdió 25 millones de dólares después de que estafadores usaran deepfakes para suplantar la identidad de un alto ejecutivo y ordenar transferencias de dinero. Estos son, por supuesto, solo algunos ejemplos de millones de estafas cibernéticas.

Lidiar con la difusión de información errónea en las redes sociales: ¿misión imposible?

Aunque los países y las organizaciones globales realizan esfuerzos constantes para prevenir o sancionar actividades ilegales en el ciberespacio, especialmente en grandes plataformas sociales como TikTok, Facebook o X, el número de casos atendidos es muy reducido.

Lo más destacable es que, hasta la fecha, casi ningún país u organización ha responsabilizado a las redes sociales por irregularidades, como difundir información falsa o incluso infringir la ley. En mayo de este año, la propia Meta admitió haber encontrado contenido "posiblemente generado por IA" utilizado para distorsionar o engañar en sus plataformas de Facebook e Instagram. Esta declaración demuestra que las propias redes sociales se consideran "inocentes" al difundir información dañina; de lo contrario, no se habrían "autoconfesado" de esa manera.

De hecho, grandes empresas tecnológicas como Meta, TikTok, Google, Microsoft o X han tenido que pagar miles de millones de dólares en multas en todo el mundo por sus infracciones, pero solo están relacionadas con violaciones de las normas de privacidad de los usuarios o de las leyes antimonopolio, y casi no ha habido sanciones contra ellas por permitir que se produzcan infracciones en su "casa".

El caso más notable en este ámbito fue la detención del jefe de Telegram, Pavel Durov, en Francia, acusado de facilitar actividades delictivas en la plataforma de mensajería. Sin embargo, la detención, presuntamente con implicaciones políticas, se llevó a cabo en secreto. No se trató de un proceso judicial público contra una red social o una empresa convencional. De hecho, nunca se ha sancionado a Telegram por actividades delictivas en la plataforma, a pesar de que Naciones Unidas publicó un informe en octubre de 2024 que afirmaba que la plataforma era una herramienta utilizada por bandas criminales para realizar transacciones ilegales.

El mundo sigue luchando por gestionar el problema de las noticias falsas, la desinformación y el fraude en las redes sociales. Foto de la ilustración: IJNET

Entonces, incluso con actividades ilegales tan obvias, si no se puede lidiar con las plataformas de redes sociales o compartir en la comunidad, está claro que controlar el contenido tóxico, las noticias falsas y la desinformación está extremadamente lejos.

Así pues, las plataformas no solo no tienen miedo, sino que cada vez dan más señales de actuar por su cuenta, fomentando información controvertida, sensacionalista, absurda o tóxica para atraer a la audiencia mediante algoritmos cada vez más sofisticados. Cabe destacar que las grandes tecnológicas también están dispuestas a presionar o impugnar cualquier medida que las sancione por este asunto. El multimillonario Elon Musk, propietario de la red social X, expresó en septiembre de 2024 su oposición a un nuevo proyecto de ley australiano que propone multar a las empresas de redes sociales si no previenen la desinformación en línea.

Según el proyecto de ley, que aún es australiano, las plataformas de internet podrían ser multadas con hasta el 5% de sus ingresos globales por difundir desinformación. Otras importantes plataformas tecnológicas, como Google y Meta, también han expresado su preocupación y han impugnado el nuevo proyecto de ley australiano. Cabe destacar que este es un proyecto de ley poco común en el mundo que menciona multas a las redes sociales por difundir desinformación, noticias falsas y actividades fraudulentas.

Si observamos el mundo de los medios tradicionales y el periodismo, esa paradoja es difícil de aceptar. Todos saben que si un periódico o un canal de televisión comete incluso un pequeño error profesional, por no hablar de proporcionar información falsa o ilegal, toda la agencia puede ser severamente castigada; al menos los lectores le darán la espalda, no solo el reportero o editor que proporcionó la información será considerado responsable.

La “pandemia global” se está saliendo de control

Se puede decir que el problema de la desinformación, las noticias falsas, las noticias tóxicas y el fraude es más grave que cualquier guerra o pandemia, ya que puede afectar a toda una generación a nivel mundial, especialmente a los jóvenes. Numerosos estudios demuestran cómo las redes sociales, en especial las adictivas funciones de vídeos cortos de Facebook, TikTok o Google, tienen efectos perjudiciales en la salud física y mental de los niños.

En un estudio reciente, UNICEF señaló que las redes sociales están diseñadas para captar la atención de los usuarios durante el mayor tiempo posible, aprovechándose de nuestros prejuicios y vulnerabilidades psicológicas, como el deseo de aprobación o el miedo al rechazo. El uso excesivo de las redes sociales se ha vinculado con sentimientos de envidia, inferioridad y baja satisfacción con la vida. Estudios incluso han sugerido que este hábito puede provocar síntomas de depresión, ansiedad y falta de sueño, siendo los más comunes las enfermedades mentales.

La cantante Taylor Swift es una de las celebridades que ha sido víctima de deepfakes de IA. Foto: Herbert Wang

La normativa de Vietnam que obliga a las redes sociales a autenticar a los usuarios entrará en vigor

El Decreto 147/2024/ND-CP sobre la gestión, prestación y uso de servicios de internet e información en línea, emitido recientemente por el Gobierno vietnamita, entrará en vigor el 25 de diciembre de 2024. En consecuencia, la normativa exige que las redes sociales autentiquen a los usuarios mediante su número de teléfono o número de identificación personal, y solo las cuentas autenticadas pueden proporcionar información (escribir artículos, comentar, transmitir en directo) y compartirla en redes sociales. Se espera que este Decreto limite considerablemente la difusión de información falsa y engañosa, especialmente las actividades fraudulentas en redes sociales.

Hay muchos ejemplos de cómo la desinformación, las noticias falsas y los deepfakes pueden tener un grave impacto en la vida real y convertirse en una amenaza global. En agosto de este año, estallaron disturbios debido a una falsa afirmación que circulaba en redes sociales de que el sospechoso del asesinato a puñaladas de una joven en el Reino Unido era un inmigrante musulmán radical (que en realidad era británico). Los disturbios provocaron miles de arrestos policiales.

Tras el intento de asesinato de Donald Trump en julio de 2024, las redes sociales se vieron inundadas de noticias falsas o teorías conspirativas, como el caso de un periodista italiano considerado sospechoso (en realidad, un estadounidense de 20 años). Además, se difundieron distorsiones en redes sociales sobre la posibilidad de que el sospechoso fuera chino o que el incidente fuera un montaje. La difusión de información falsa también está incrementando el odio hacia todos los conflictos y puntos calientes del mundo, como la guerra entre Rusia y Ucrania, la guerra entre Israel y Palestina o el problema del antisemitismo y la antimusulmanía.

Y, sin embargo, con la explosión de la IA, la lucha contra la desinformación se está descontrolando. Las herramientas deepfake y los modelos de IA baratos proliferan sin ningún control significativo.

Según las estadísticas de DeepMedia, la cantidad de vídeos y voces deepfake se ha disparado cada año. En 2023, los vídeos deepfake se triplicaron y las voces deepfake se multiplicaron por ocho en comparación con 2022. Se prevé que, en 2024, se compartan alrededor de 500.000 vídeos y voces deepfake en redes sociales a nivel mundial.

A principios de 2024, una serie de imágenes pornográficas de la cantante Taylor Swift generadas por IA se viralizaron en redes sociales, causando revuelo mundial. Además, varios políticos de todo el mundo, como el presidente estadounidense Joe Biden y líderes del Reino Unido, India, Nigeria, Sudán, Etiopía y Eslovaquia, también han sido víctimas del problema de los deepfakes.

Por lo tanto, el problema de las noticias falsas, la desinformación y, en especial, las actividades fraudulentas en el ciberespacio se agrava cada vez más. En la inminente era de la IA, esta "pandemia global" podría descontrolarse sin el esfuerzo conjunto de todo el mundo, especialmente de los responsables políticos de cada país.

Hoang Hai

Fuente: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html