A lendária luta contra a desinformação, os deepfakes e os golpes.

(NB&CL) Além da guerra, da violência armada e das profundas divisões geopolíticas globais, o mundo em 2024 continua a enfrentar outra grande batalha contra a desinformação, as notícias falsas e a fraude. Este problema será uma história lendária, difícil de resolver e que deverá agravar-se ainda mais se o mundo não se unir para tomar medidas drásticas.

Caos informacional - um perigo cada vez maior

A desinformação, especialmente a desinformação e a fraude cibernética, está sendo considerada uma “pandemia global”, uma batalha comum ao mundo na qual as organizações de mídia tradicionais, com sua missão de proteger a verdade, precisam desempenhar um papel de liderança. No entanto, essa batalha só poderá ser bem-sucedida se houver medidas drásticas e fundamentais em cada país e nas organizações globais.

Notícias falsas, desinformação e, principalmente, atividades fraudulentas tornaram-se consequências inevitáveis ​​e aspectos negativos da nova era da mídia. Em suma, o palco não é mais exclusivo de agências de notícias e jornais censurados. Como sabemos, a explosão da internet, dos dispositivos de alta tecnologia e, sobretudo, das redes sociais, possibilitou que qualquer pessoa se tornasse um "jornalista", "repórter" ou até mesmo um "porta-voz" seguido por milhões de pessoas.

Redes sociais, um mundo sem regras.

Tudo tem dois lados. A explosão das redes sociais trouxe muitos benefícios, como a disseminação rápida e ampla de informações e conhecimento de forma espetacular. Hoje, informações sobre um acidente chegam a todos em poucos minutos, mesmo que estejam do outro lado do mundo. Da mesma forma, informações sobre desastres naturais, como enchentes, tempestades, incêndios florestais, etc., também são rapidamente atualizadas por todos através de plataformas de redes sociais ou compartilhadas, ajudando a disseminar ou alertar de forma eficaz.

No entanto, juntamente com os aspectos positivos, as redes sociais e as plataformas de compartilhamento comunitário estão trazendo consequências preocupantes. Mais alarmante ainda é o fato de que não apenas os humanos, mas também as máquinas e, principalmente, a crescente penetração da inteligência artificial (IA), estão transformando o mundo da internet em geral e as plataformas tecnológicas em particular em um ambiente de muitos riscos.

“Pandemia de informação” nas redes sociais

Segundo estatísticas publicadas pela Redline no final de junho de 2024, existem 4,9 bilhões de usuários de redes sociais no mundo. De acordo com essa pesquisa com americanos, a maioria dos usuários de redes sociais não confia na veracidade das informações divulgadas nessas plataformas, do Facebook e TikTok ao YouTube. Portanto, essa organização utilizou o termo "infodemia" para descrever o atual estado de desinformação nas redes sociais.

O mundo das redes sociais é como uma floresta primitiva, quase sem regras. Vivendo nela, as pessoas desfrutam de fertilidade, liberdade e lazer, mas também de armadilhas mortais. Até hoje, quase todos os países ainda lutam com a gestão e organização dessa "floresta primitiva", dando apenas os primeiros passos para lidar com as violações, embora esse "mundo" já tenha abrangido toda a humanidade.

No final de novembro deste ano, a Austrália tornou-se o primeiro país do mundo a introduzir oficialmente uma lei que proíbe crianças de entrarem no fascinante, porém perigoso e quase sem lei, mundo "primitivo". Especificamente, a Austrália proibiu crianças menores de 16 anos de usar redes sociais e imporá multas pesadas de até 32 milhões de dólares caso as redes sociais violem a lei.

Nesse contexto, a explosão de notícias falsas, desinformação e, principalmente, fraudes nas redes sociais (bem como por meio de outras formas de alta tecnologia, como aplicativos de software, sites fraudulentos etc.) continua se tornando um problema global. No Vietnã, ouvimos diariamente histórias comoventes de vítimas de fraudadores de todos os tipos no ciberespaço. No mundo todo, esse também é um problema para qualquer país.

Em março deste ano, a Interpol relatou que a fraude cibernética no Sudeste Asiático se expandiu globalmente, movimentando até US$ 3 trilhões por ano (equivalente ao PIB da França). Até mesmo uma gigante britânica da tecnologia perdeu US$ 25 milhões depois que fraudadores usaram deepfakes para se passar por um executivo sênior e solicitar transferências de dinheiro. Esses são, obviamente, apenas alguns exemplos entre os milhões de golpes cibernéticos.

Lidar com a desinformação disseminada nas redes sociais: missão impossível?

Embora países e organizações globais estejam fazendo esforços constantes para prevenir ou punir atividades ilegais no ciberespaço, especialmente em grandes plataformas de mídia social como TikTok, Facebook ou X, o número de casos tratados é muito pequeno.

O que é ainda mais notável é que, até agora, quase nenhum país ou organização responsabilizou as redes sociais por irregularidades, como a disseminação de informações falsas ou mesmo a violação da lei. Em maio deste ano, a própria Meta admitiu ter encontrado conteúdo “possivelmente gerado por IA” usado para distorcer ou enganar em suas plataformas Facebook e Instagram. Essa declaração demonstra que as próprias redes sociais acreditam ser “inocentes” na disseminação de informações prejudiciais, caso contrário não teriam se “autoconfessado” dessa forma.

Na verdade, grandes empresas de tecnologia, como Meta, TikTok, Google, Microsoft ou X, tiveram que pagar bilhões de dólares em multas em todo o mundo por suas violações, mas estas estão relacionadas apenas a infrações às normas de privacidade do usuário ou às leis antitruste, e quase não houve penalidades contra elas por permitirem que tais violações ocorressem em suas instalações.

O caso mais notório nessa área foi a prisão do chefe do Telegram, Pavel Durov, na França, acusado de facilitar atividades criminosas na plataforma de mensagens. No entanto, a prisão, que se diz ter motivações políticas, foi realizada em segredo. Não se tratou de um processo judicial público contra uma rede social ou uma empresa comum. De fato, nunca houve uma única punição para o Telegram relacionada a atividades criminosas na plataforma, embora as Nações Unidas tenham divulgado um relatório em outubro de 2024 apontando que a plataforma era uma ferramenta utilizada por quadrilhas criminosas para transações ilegais.

O mundo ainda luta para lidar com o problema das notícias falsas, da desinformação e das fraudes nas plataformas de redes sociais. Foto ilustrativa: IJNET

Portanto, mesmo com atividades ilegais tão óbvias, se não for possível lidar com plataformas de mídia social ou compartilhamento em comunidades, fica claro que o controle de conteúdo tóxico, notícias falsas e desinformação está extremamente distante.

Portanto, as plataformas não apenas não têm medo, como também demonstram cada vez mais sinais de "agirem por conta própria", incentivando informações controversas, sensacionalistas, absurdas ou tóxicas para atrair espectadores, por meio de seus algoritmos cada vez mais sofisticados. Vale ressaltar que as grandes empresas de tecnologia também estão prontas para pressionar ou contestar qualquer medida que vise puni-las por essa questão. O bilionário Elon Musk, dono da rede social X, expressou em setembro de 2024 sua oposição a um novo projeto de lei australiano que propõe multar empresas de mídia social caso não consigam impedir a desinformação online.

Segundo o projeto de lei, ainda em tramitação na Austrália, as plataformas de internet podem ser multadas em até 5% de sua receita global por disseminarem desinformação. Outras grandes plataformas de tecnologia, como Google e Meta, também expressaram preocupação e contestaram o novo projeto de lei australiano. Vale ressaltar que este é um dos poucos projetos de lei no mundo que menciona a aplicação de multas a redes sociais por disseminarem desinformação, notícias falsas e atividades fraudulentas.

Se observarmos o mundo da mídia e do jornalismo tradicionais, esse paradoxo se torna difícil de aceitar. Todos sabem que, se um jornal ou um canal de televisão comete um pequeno erro profissional, quanto mais divulgar informações falsas ou ilegais, toda a agência pode ser severamente punida, no mínimo os leitores deixarão de acompanhá-la, e não apenas o repórter ou editor que forneceu a informação será responsabilizado.

A “pandemia global” está saindo completamente do controle.

Pode-se afirmar que o problema da desinformação, das notícias falsas, das notícias tóxicas e das fraudes é mais grave do que qualquer guerra ou pandemia, pois pode afetar toda uma geração globalmente, especialmente os jovens. Há inúmeros estudos que demonstram como as redes sociais, principalmente os vídeos curtos e viciantes do Facebook, TikTok ou Google, têm efeitos nocivos na saúde física e mental das crianças.

Em um estudo recente, a UNICEF apontou que as redes sociais são projetadas para capturar a atenção dos usuários pelo maior tempo possível, explorando nossos vieses e vulnerabilidades psicológicas, como o desejo de aprovação ou o medo da rejeição. O uso excessivo das redes sociais tem sido associado a sentimentos de inveja, inferioridade e baixa satisfação com a vida. Estudos sugerem, inclusive, que esse hábito pode levar a sintomas de depressão, ansiedade e privação de sono, sendo o mais típico deles o transtorno mental.

A cantora Taylor Swift é uma das celebridades que foi vítima de deepfakes criados por inteligência artificial. Foto: Herbert Wang

A regulamentação do Vietnã que obriga as redes sociais a autenticarem os usuários entrará em vigor.

O Decreto 147/2024/ND-CP sobre gestão, prestação e utilização de serviços de Internet e informação online, recentemente emitido pelo Governo do Vietname, entrará em vigor a partir de 25 de dezembro de 2024. De acordo com o decreto, as redes sociais exigem que as redes sociais autentiquem os utilizadores através do número de telefone ou do número de identificação pessoal, e apenas as contas autenticadas poderão fornecer informações (escrever artigos, comentar, transmitir em direto) e partilhar informações nas redes sociais. Espera-se que este decreto limite significativamente a propagação de informações falsas e enganosas, especialmente as atividades fraudulentas nas redes sociais.

Existem muitos exemplos de como a desinformação, as notícias falsas e os deepfakes podem ter um impacto sério na vida real e se tornar uma ameaça global. Em agosto deste ano, eclodiram distúrbios devido a uma alegação falsa que circulava nas redes sociais de que o suspeito do assassinato a facadas de uma jovem no Reino Unido era um imigrante muçulmano radical (que na verdade era britânico). Os distúrbios levaram a milhares de prisões pela polícia.

Na tentativa de assassinato de Donald Trump em julho de 2024, as redes sociais foram inundadas por notícias falsas e teorias da conspiração, como o caso de um jornalista italiano que foi considerado suspeito (na verdade, um americano de 20 anos). Além disso, circularam distorções nas redes sociais, alegando que o suspeito era chinês ou que o incidente foi uma "encenação". A disseminação de informações falsas também está aumentando o ódio em relação a todos os conflitos e pontos críticos do mundo, como a guerra entre Rússia e Ucrânia, Israel-Palestina ou o problema do antissemitismo e da intolerância islâmica.

No entanto, com a explosão da IA, a luta contra a desinformação está saindo do controle. Ferramentas de deepfake e modelos de IA baratos estão proliferando sem nenhum controle significativo.

Segundo as estatísticas da DeepMedia, a quantidade de vídeos e vozes deepfake tem aumentado exponencialmente a cada ano. Os vídeos deepfake triplicaram e as vozes deepfake aumentaram mais de oito vezes em 2023 em comparação com 2022. Prevê-se que cerca de 500 mil vídeos e vozes deepfake serão compartilhados em redes sociais globalmente em 2024.

No início de 2024, uma série de imagens pornográficas da cantora Taylor Swift, geradas por inteligência artificial, viralizaram nas redes sociais, causando alvoroço em todo o mundo. Além disso, diversos políticos ao redor do globo, incluindo o presidente dos EUA, Joe Biden, e líderes do Reino Unido, Índia, Nigéria, Sudão, Etiópia e Eslováquia, também foram vítimas do problema dos deepfakes.

Assim, o problema das notícias falsas, da desinformação e, principalmente, das atividades fraudulentas no ciberespaço está se tornando cada vez mais sério. Na era da IA ​​que se aproxima, essa “pandemia global” pode sair do controle sem os esforços conjuntos de todo o mundo, especialmente dos formuladores de políticas em cada país.

Hoang Hai

Fonte: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html