A lendária luta contra a desinformação, deepfakes e golpes

(NB&CL) Além da guerra, da violência armada ou das profundas divisões geopolíticas globais, o mundo em 2024 continua a enfrentar outra grande batalha contra a desinformação, as notícias falsas e a fraude. Este problema será uma história lendária, difícil de resolver e prevê-se que se tornará cada vez mais grave se o mundo não se unir para tomar medidas drásticas.

Caos de informação - um perigo crescente

A interrupção da informação, especialmente a desinformação e a fraude cibernética, está sendo considerada uma "pandemia global", uma batalha comum no mundo , na qual as organizações jornalísticas tradicionais, com sua missão de proteger a verdade, precisam desempenhar um papel de liderança. No entanto, a batalha só pode ser bem-sucedida se houver medidas drásticas e fundamentais em cada país e em organizações globais.

Notícias falsas, desinformação e, principalmente, atividades fraudulentas tornaram-se consequências inevitáveis ​​e aspectos negativos da nova era da mídia. Simplesmente, o palco não é mais apenas para agências de mídia e jornais censurados. Como sabemos, a explosão da internet, dos dispositivos de alta tecnologia e, principalmente, das redes sociais tornou possível que qualquer pessoa se torne um "jornalista", "repórter" ou mesmo um "porta-voz" seguido por milhões de pessoas.

Redes sociais, um mundo sem regras

Tudo tem dois lados. A explosão das redes sociais trouxe muitos benefícios, como ajudar a informação e o conhecimento a se espalharem de forma rápida e ampla, de forma espetacular. Hoje em dia, informações sobre um acidente chegam a todos em poucos minutos, mesmo que estejam do outro lado do mundo. Informações sobre desastres naturais, como inundações, tempestades, incêndios florestais... também são atualizadas rapidamente por todos através das plataformas de redes sociais ou compartilhadas, ajudando a disseminar ou alertar com eficácia.

No entanto, além dos aspectos positivos, as redes sociais e as plataformas de compartilhamento comunitário estão trazendo consequências preocupantes. Ainda mais assustador, atualmente, não apenas os humanos, mas também as máquinas e, especialmente, a penetração tempestuosa da inteligência artificial (IA), estão tornando o mundo da internet em geral e as plataformas tecnológicas em particular um lugar com muitos riscos.

“Pandemia de informação” nas redes sociais

De acordo com estatísticas publicadas pela Redline no final de junho de 2024, existem 4,9 bilhões de usuários de mídias sociais em todo o mundo. Segundo a pesquisa, realizada com americanos, a maioria dos usuários de mídias sociais não confia na precisão das informações divulgadas nessas plataformas, do Facebook, TikTok ao YouTube. Por isso, a organização utilizou o termo "infodemia" para se referir ao estado atual da desinformação nas mídias sociais.

O mundo das redes sociais é como uma floresta primitiva, quase sem regras. Vivendo nela, as pessoas desfrutam de fertilidade, liberdade e frescor, mas junto com isso existem armadilhas mortais. Até agora, quase todos os países ainda lutam para administrar e organizar essa "floresta primária", mesmo dando os primeiros passos para lidar com as violações, enquanto esse "mundo" abrange toda a humanidade.

No final de novembro deste ano, a Austrália se tornou o primeiro país do mundo a promulgar oficialmente uma lei que proíbe o acesso de crianças ao fascinante, porém perigoso e quase sem lei mundo "primitivo". Especificamente, a Austrália proibiu o uso de redes sociais por menores de 16 anos e imporá multas pesadas de até US$ 32 milhões caso as redes sociais violem a lei.

Nesse contexto, a explosão de notícias falsas, desinformação e, principalmente, fraudes nas redes sociais (bem como em outras formas de alta tecnologia, como aplicativos de software, sites fraudulentos etc.) continua a se tornar um problema global. No Vietnã, ouvimos diariamente histórias comoventes sobre vítimas que foram enganadas por todas as formas de fraude na internet. No mundo todo, isso também é um problema para qualquer país.

Em março, a Interpol relatou que as fraudes cibernéticas no Sudeste Asiático se expandiram globalmente, arrecadando US$ 3 trilhões por ano (aproximadamente o PIB da França). Até mesmo uma gigante britânica da tecnologia perdeu US$ 25 milhões depois que fraudadores usaram deepfakes para se passar por um executivo sênior e solicitar transferências de dinheiro. Esses são, é claro, apenas alguns exemplos dos milhões de golpes cibernéticos.

Lidar com a disseminação de desinformação nas redes sociais é uma missão impossível?

Embora países e organizações globais estejam fazendo esforços constantes para prevenir ou punir atividades ilegais no ciberespaço, especialmente em grandes plataformas sociais como TikTok, Facebook ou X, o número de casos tratados ainda é muito pequeno.

O mais notável é que, até agora, quase nenhum país ou organização responsabilizou as redes sociais por irregularidades, como a disseminação de informações falsas ou mesmo a violação da lei. Em maio deste ano, a própria Meta admitiu ter encontrado conteúdo "provavelmente gerado por IA" que foi usado para distorcer ou enganar em suas plataformas do Facebook e Instagram. Essa declaração mostra que as próprias redes sociais acreditam ser "inocentes" ao disseminar informações prejudiciais; caso contrário, não teriam se "autoconfessado" dessa forma.

Na verdade, grandes empresas de tecnologia, como Meta, TikTok, Google, Microsoft ou X, tiveram que pagar bilhões de dólares em multas ao redor do mundo por suas violações, mas elas estão relacionadas apenas a violações de regulamentações de privacidade do usuário ou leis antitruste, e quase não houve penalidades contra elas por permitir que violações ocorressem em sua "casa".

O caso mais notável nessa área foi a prisão do CEO do Telegram, Pavel Durov, na França, acusado de facilitar atividades criminosas na plataforma de mensagens. No entanto, a prisão, que teria conotações políticas, foi realizada em segredo. Não se tratou de um processo judicial público contra uma rede social ou uma empresa comum. De fato, nunca houve uma única punição para o Telegram relacionada a atividades criminosas na plataforma, embora as Nações Unidas tenham divulgado um relatório em outubro de 2024 de que a plataforma era usada por gangues criminosas para transações ilegais.

O mundo ainda luta para lidar com o problema das notícias falsas, da desinformação e das fraudes nas plataformas de mídia social. Foto ilustrativa: IJNET

Portanto, mesmo com atividades ilegais tão óbvias, lidar com plataformas de mídia social ou compartilhamento de comunidade não pode ser feito, está claro que controlar conteúdo tóxico, notícias falsas e desinformação está extremamente distante.

Portanto, as plataformas não só não têm medo, como também demonstram cada vez mais sinais de "agir em seus próprios termos", incentivando informações controversas, sensacionalistas, sem sentido ou tóxicas para atrair espectadores, por meio de seus algoritmos cada vez mais sofisticados. Vale ressaltar que as Big Techs também estão prontas para pressionar ou contestar qualquer medida que as puna nessa questão. O bilionário Elon Musk, dono da rede social X, expressou em setembro de 2024 sua oposição a um novo projeto de lei australiano que propõe multar as empresas de mídia social caso não consigam impedir a desinformação online.

Segundo o projeto de lei, que ainda é australiano, plataformas de internet podem ser multadas em até 5% de sua receita global por disseminar desinformação. Outras grandes plataformas de tecnologia, como Google e Meta, também expressaram preocupações e contestaram o novo projeto de lei australiano. Observe que este também é um projeto de lei raro no mundo que menciona a penalização de redes sociais por disseminar desinformação, notícias falsas e atividades fraudulentas.

Se olharmos para o mundo da mídia tradicional e do jornalismo, esse paradoxo é difícil de aceitar. Todos sabem que, se um jornal ou canal de televisão cometer um pequeno erro profissional, quanto mais fornecer informações falsas ou ilegais, toda a agência pode ser severamente punida e, no mínimo, os leitores darão as costas a ela, não apenas ao repórter ou editor que forneceu a informação.

A “pandemia global” está a ficar fora de controlo

Pode-se dizer que o problema da desinformação, das notícias falsas, das notícias tóxicas e das fraudes é mais grave do que qualquer guerra ou pandemia, podendo afetar uma geração inteira em todo o mundo, especialmente os jovens. Há inúmeros estudos demonstrando como as redes sociais, especialmente os recursos viciantes de vídeos curtos do Facebook, TikTok ou Google, são prejudiciais à saúde física e mental das crianças.

Em um estudo recente, a UNICEF descobriu que as mídias sociais são projetadas para capturar a atenção dos usuários pelo maior tempo possível, explorando nossos preconceitos e vulnerabilidades psicológicas, como o desejo de aprovação ou o medo da rejeição. O uso excessivo das mídias sociais tem sido associado a sentimentos de inveja, inferioridade e baixa satisfação com a vida. Estudos até sugeriram que esse hábito pode levar a sintomas de depressão, ansiedade e privação de sono, sendo o mais típico deles a doença mental...

A cantora Taylor Swift é uma das celebridades que foi vítima de deepfake com IA. Foto: Herbert Wang

A regulamentação do Vietnã que obriga as redes sociais a autenticar usuários entrará em vigor

O Decreto 147/2024/ND-CP sobre gestão, fornecimento e uso de serviços de internet e informações online, recentemente emitido pelo Governo vietnamita, entrará em vigor em 25 de dezembro de 2024. Consequentemente, a regulamentação exige que as redes sociais autentiquem os usuários por meio de número de telefone ou número de identificação pessoal, e que apenas contas autenticadas possam fornecer informações (escrever artigos, comentar, transmitir ao vivo) e compartilhar informações nas redes sociais. Espera-se que este decreto limite significativamente a disseminação de informações falsas e enganosas, e especialmente atividades fraudulentas, nas redes sociais.

Há muitos exemplos de como a desinformação, as notícias falsas e as deepfakes podem ter um impacto significativo na vida real e se tornar uma ameaça global. Em agosto deste ano, revoltas eclodiram devido a uma falsa alegação nas redes sociais de que o suspeito de esfaquear uma jovem no Reino Unido era um imigrante muçulmano radical (que, na verdade, era britânico). As revoltas levaram a milhares de prisões pela polícia.

No atentado contra Donald Trump em julho de 2024, o mundo das mídias sociais também foi inundado com notícias falsas e teorias da conspiração, como a de que um jornalista italiano era considerado suspeito (na verdade, um americano de 20 anos). Além disso, houve distorções nas mídias sociais de que o suspeito era chinês ou que o incidente foi uma "encenação". A disseminação de informações falsas também está aumentando o ódio contra todos os conflitos e pontos críticos do mundo, como a guerra entre Rússia e Ucrânia, Israel e Palestina ou o problema da islamofobia, bem como o antissemitismo.

E, no entanto, com a explosão da IA, a luta contra a desinformação está saindo do controle. Ferramentas de deepfake e modelos de IA baratos estão proliferando sem nenhum controle significativo.

De acordo com estatísticas da DeepMedia, a quantidade de vídeos e vozes deepfake disparou a cada ano. Os vídeos deepfake aumentaram mais de três vezes e as vozes deepfake mais de oito vezes em 2023, em comparação com 2022. Desse total, prevê-se que cerca de 500.000 vídeos e vozes deepfake serão compartilhados nas redes sociais globalmente em 2024.

No início de 2024, uma série de imagens pornográficas da cantora Taylor Swift, geradas por IA, viralizaram nas redes sociais, causando comoção em todo o mundo. Além disso, vários políticos ao redor do mundo, incluindo o presidente dos EUA, Joe Biden, e líderes do Reino Unido, Índia, Nigéria, Sudão, Etiópia e Eslováquia, também se tornaram vítimas do problema do deepfake.

Assim, o problema de notícias falsas, desinformação e, especialmente, atividades fraudulentas no ciberespaço está se tornando cada vez mais grave. Na próxima era da IA, essa "pandemia global" pode ficar fora de controle sem os esforços conjuntos de todo o mundo, especialmente dos formuladores de políticas de cada país, para evitá-la.

Hoang Hai

Fonte: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html