A lendária luta contra a desinformação, deepfakes e golpes

(NB&CL) Além da guerra, da violência armada ou das profundas divisões geopolíticas globais, o mundo em 2024 continua a enfrentar outra grande batalha contra a desinformação, as notícias falsas e a fraude. Este problema será uma história lendária, difícil de resolver e prevê-se que se tornará ainda mais grave se o mundo não se unir para tomar medidas drásticas.

Caos de informação - um perigo crescente

A interrupção da informação, especialmente a desinformação e a fraude cibernética, está sendo considerada uma "pandemia global", uma batalha comum no mundo, na qual as organizações de mídia tradicionais, com sua missão de proteger a verdade, precisam desempenhar um papel de liderança. No entanto, a batalha só pode ser bem-sucedida se houver medidas drásticas e fundamentais em cada país e em organizações globais.

Notícias falsas, desinformação e, principalmente, atividades fraudulentas tornaram-se consequências inevitáveis ​​e aspectos negativos quando o mundo entra em uma nova era da mídia. Simplesmente, o palco não é mais apenas para agências de mídia e jornais censurados. Como sabemos, a explosão da internet, dos dispositivos de alta tecnologia e, principalmente, das redes sociais tornou possível que qualquer pessoa se torne um "jornalista", "repórter" ou mesmo um "porta-voz" seguido por milhões de pessoas.

Redes sociais, um mundo sem regras

Tudo tem dois lados. A explosão das redes sociais trouxe muitos benefícios, como ajudar a informação e o conhecimento a se espalharem de forma rápida e ampla, de forma espetacular. Hoje, informações sobre um acidente chegam a todos em poucos minutos, mesmo que estejam do outro lado do mundo. Ou informações sobre desastres naturais como inundações, tempestades, incêndios florestais... também são atualizadas rapidamente por todos através das plataformas de redes sociais ou compartilhadas, ajudando a espalhar ou alertar com eficácia.

No entanto, além dos aspectos positivos, as redes sociais e as plataformas de compartilhamento comunitário estão trazendo consequências preocupantes. Mais assustadoramente, não apenas os humanos, mas também as máquinas e, especialmente, a penetração tempestuosa da inteligência artificial (IA) estão tornando o mundo da internet em geral e as plataformas tecnológicas em particular um lugar com muitos riscos.

“Pandemia de informação” nas redes sociais

De acordo com estatísticas publicadas pela Redline no final de junho de 2024, existem 4,9 bilhões de usuários de mídias sociais em todo o mundo. Segundo a pesquisa, realizada com americanos, a maioria dos usuários de mídias sociais não confia na precisão das informações divulgadas nessas plataformas, do Facebook, TikTok ao YouTube. Por isso, a organização utilizou o termo "infodemia" para se referir ao estado atual da desinformação nas mídias sociais.

O mundo das redes sociais é como uma floresta primitiva, quase sem regras. Vivendo nela, as pessoas desfrutam de fertilidade, liberdade e frescor, mas junto com isso existem armadilhas mortais. Até agora, quase todos os países ainda lutam para administrar e organizar essa "floresta primária", mesmo dando os primeiros passos para lidar com as violações, enquanto este "mundo" abrange toda a humanidade.

No final de novembro deste ano, a Austrália se tornou o primeiro país do mundo a introduzir oficialmente uma lei que proíbe o acesso de crianças ao fascinante, porém perigoso e quase sem lei mundo "primitivo". Especificamente, a Austrália proibiu o uso de redes sociais por menores de 16 anos e imporá multas pesadas de até US$ 32 milhões em caso de violação das redes sociais.

Nesse contexto, a explosão de notícias falsas, desinformação e, especialmente, fraudes nas redes sociais (bem como em outras formas de alta tecnologia, como aplicativos de software, sites fraudulentos, etc.) continua a se tornar um problema global. No Vietnã, ouvimos diariamente histórias comoventes sobre vítimas de fraudadores de todas as formas no ciberespaço. No mundo, isso também é um problema para qualquer país.

Em março deste ano, a Interpol relatou que as fraudes cibernéticas no Sudeste Asiático se expandiram globalmente, arrecadando até US$ 3 trilhões por ano (equivalente ao PIB da França). Até mesmo uma gigante britânica da tecnologia perdeu US$ 25 milhões depois que fraudadores usaram deepfakes para se passar por um executivo sênior e solicitar transferências de dinheiro. Esses são, obviamente, apenas alguns exemplos de milhões de golpes cibernéticos.

Lidar com a disseminação de desinformação nas redes sociais é uma missão impossível?

Embora países e organizações globais estejam fazendo esforços constantes para prevenir ou punir atividades ilegais no ciberespaço, especialmente em grandes plataformas sociais como TikTok, Facebook ou X, o número de casos tratados é muito pequeno.

O mais notável é que, até agora, quase nenhum país ou organização responsabilizou as redes sociais por irregularidades, como a disseminação de informações falsas ou mesmo a violação da lei. Em maio deste ano, a própria Meta admitiu ter encontrado conteúdo "possivelmente gerado por IA" usado para distorcer ou enganar em suas plataformas do Facebook e Instagram. Essa declaração mostra que as próprias redes sociais acreditam ser "inocentes" ao disseminar informações prejudiciais, caso contrário, não teriam "se confessado" dessa forma.

Na verdade, grandes empresas de tecnologia, como Meta, TikTok, Google, Microsoft ou X, tiveram que pagar bilhões de dólares em multas ao redor do mundo por suas violações, mas elas estão relacionadas apenas a violações de regulamentações de privacidade do usuário ou leis antitruste, e quase não houve penalidades contra elas por permitir que violações ocorressem em sua "casa".

O caso mais notável nessa área foi a prisão do chefe do Telegram, Pavel Durov, na França, acusado de facilitar atividades criminosas na plataforma de mensagens. No entanto, a prisão, que se diz ter cunho político, foi realizada em segredo. Não se tratou de um processo judicial público contra uma rede social ou uma empresa comum. De fato, nunca houve uma única punição para o Telegram relacionada a atividades criminosas na plataforma, embora as Nações Unidas tenham divulgado um relatório em outubro de 2024 afirmando que a plataforma era uma ferramenta utilizada por gangues criminosas para transações ilegais.

O mundo ainda luta para lidar com o problema das notícias falsas, da desinformação e das fraudes nas plataformas de mídia social. Foto ilustrativa: IJNET

Portanto, mesmo com atividades ilegais tão óbvias, se não for possível lidar com plataformas de mídia social ou compartilhamento comunitário, fica claro que controlar conteúdo tóxico, notícias falsas e desinformação está extremamente distante.

Assim, as plataformas não só não têm medo, como também demonstram cada vez mais sinais de "ação independente", incentivando informações controversas, sensacionalistas, sem sentido ou tóxicas para atrair espectadores, por meio de seus algoritmos cada vez mais sofisticados. Vale ressaltar que as Big Techs também estão prontas para pressionar ou contestar qualquer medida que as puna nessa questão. O bilionário Elon Musk, dono da rede social X, manifestou-se em setembro de 2024 contra um novo projeto de lei australiano que propõe multar empresas de mídia social caso não consigam impedir a desinformação online.

Segundo o projeto de lei, que ainda é australiano, plataformas de internet podem ser multadas em até 5% de sua receita global por disseminar desinformação. Outras grandes plataformas de tecnologia, como Google e Meta, também expressaram preocupações e contestaram o novo projeto de lei australiano. Observe que este também é um projeto de lei raro no mundo que menciona multas em redes sociais por disseminar desinformação, notícias falsas e atividades fraudulentas.

Se olharmos para o mundo da mídia e do jornalismo tradicionais, esse paradoxo é difícil de aceitar. Todos sabem que, se um jornal ou canal de televisão cometer um pequeno erro profissional, sem falar no fornecimento de informações falsas ou ilegais, toda a agência pode ser severamente punida; pelo menos os leitores virarão as costas, e não apenas o repórter ou editor que forneceu a informação será responsabilizado.

A “pandemia global” está a ficar fora de controlo

Pode-se dizer que o problema da desinformação, notícias falsas, notícias tóxicas e fraudes é mais sério do que qualquer guerra ou pandemia, podendo afetar uma geração inteira em todo o mundo, especialmente os jovens. Há muitos estudos mostrando como as redes sociais, especialmente os recursos viciantes de vídeos curtos do Facebook, TikTok ou Google, têm efeitos nocivos à saúde física e mental das crianças.

Em um estudo recente, a UNICEF apontou que as mídias sociais são projetadas para capturar a atenção dos usuários pelo maior tempo possível, explorando nossos preconceitos e vulnerabilidades psicológicas, como o desejo de aprovação ou o medo da rejeição. O uso excessivo das mídias sociais tem sido associado a sentimentos de inveja, inferioridade e baixa satisfação com a vida. Estudos até sugeriram que esse hábito pode levar a sintomas de depressão, ansiedade e privação de sono, sendo o mais típico deles a doença mental...

A cantora Taylor Swift é uma das celebridades que foi vítima de deepfake com IA. Foto: Herbert Wang

A regulamentação do Vietnã que obriga as redes sociais a autenticar usuários entrará em vigor

O Decreto 147/2024/ND-CP sobre gestão, fornecimento e uso de serviços de internet e informações online, recentemente emitido pelo Governo vietnamita, entrará em vigor em 25 de dezembro de 2024. Assim, a regulamentação exige que as redes sociais autentiquem os usuários por meio de número de telefone ou número de identificação pessoal, e somente contas autenticadas poderão fornecer informações (escrever artigos, comentar, transmitir ao vivo) e compartilhar informações nas redes sociais. Espera-se que este Decreto limite significativamente a disseminação de informações falsas e enganosas, especialmente atividades fraudulentas nas redes sociais.

Há muitos exemplos de como a desinformação, as notícias falsas e as deepfakes podem ter um impacto significativo na vida real e se tornar uma ameaça global. Em agosto deste ano, revoltas eclodiram devido a uma falsa alegação que circulou nas redes sociais de que o suspeito de esfaquear uma jovem no Reino Unido era um imigrante muçulmano radical (que, na verdade, era britânico). As revoltas levaram a milhares de prisões pela polícia.

No atentado contra Donald Trump em julho de 2024, o mundo das mídias sociais também foi inundado com notícias falsas ou teorias da conspiração, como o caso de um jornalista italiano considerado suspeito (na verdade, um americano de 20 anos). Além disso, houve distorções nas mídias sociais de que o suspeito era chinês ou que o incidente foi uma "encenação". A disseminação de informações falsas também está aumentando o ódio contra todos os conflitos e pontos críticos do mundo, como a guerra Rússia-Ucrânia, Israel-Palestina ou o problema do antimuçulmano e do antissemitismo.

No entanto, com a explosão da IA, a luta contra a desinformação está saindo do controle. Ferramentas de deepfake e modelos de IA baratos estão proliferando sem nenhum controle significativo.

De acordo com estatísticas da DeepMedia, a quantidade de vídeos e vozes deepfake disparou a cada ano. Os vídeos deepfake aumentaram mais de 3 vezes e as vozes deepfake mais de 8 vezes em 2023, em comparação com 2022. Desse total, prevê-se que cerca de 500.000 vídeos e vozes deepfake serão compartilhados nas redes sociais globalmente em 2024.

No início de 2024, uma série de imagens pornográficas da cantora Taylor Swift, geradas por IA, viralizaram nas redes sociais, causando comoção em todo o mundo. Além disso, vários políticos ao redor do mundo, incluindo o presidente dos EUA, Joe Biden, e líderes do Reino Unido, Índia, Nigéria, Sudão, Etiópia e Eslováquia, também se tornaram vítimas do problema do deepfake.

Assim, o problema de notícias falsas, desinformação e, principalmente, atividades fraudulentas no ciberespaço está se tornando cada vez mais sério. Na era da IA ​​que se aproxima, essa "pandemia global" pode ficar fora de controle sem os esforços conjuntos de todo o mundo, especialmente dos formuladores de políticas de cada país.

Hoang Hai

Fonte: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html