A lendária guerra contra a desinformação, os deepfakes e os golpes.

(NB&CL) Além da guerra, da violência armada e das profundas divisões geopolíticas globais, o mundo em 2024 continua a enfrentar outra grande batalha: o combate à desinformação, às notícias falsas e à fraude. Este problema será uma saga interminável e prevê-se que se torne cada vez mais grave se o mundo não trabalhar em conjunto para implementar medidas decisivas.

Distorção de informação - uma ameaça crescente.

A desinformação, em particular a desinformação e a fraude online, está sendo considerada uma "pandemia global", uma batalha global na qual as organizações jornalísticas tradicionais, com sua missão de proteger a verdade, precisam desempenhar um papel de liderança. No entanto, essa batalha só poderá ser vencida com medidas decisivas e fundamentais em níveis nacional e global.

Notícias falsas, desinformação e, principalmente, atividades fraudulentas tornaram-se uma consequência inevitável e um efeito colateral negativo à medida que o mundo entra em uma nova era da mídia. Em outras palavras, o palco não está mais reservado apenas para veículos de comunicação com censura. Como sabemos, a explosão da internet, dos dispositivos de alta tecnologia e, principalmente, das mídias sociais, possibilitou que qualquer pessoa se tornasse um "jornalista", "repórter" ou até mesmo um "porta-voz" seguido por milhões de pessoas.

Redes sociais, um mundo sem regras.

Tudo tem dois lados. A explosão das redes sociais trouxe muitos benefícios, como a disseminação rápida e ampla de informações e conhecimento de forma espetacular. Hoje, informações sobre um acidente podem chegar às pessoas em minutos, mesmo àquelas do outro lado do mundo. Da mesma forma, informações sobre desastres naturais, como enchentes, tempestades e incêndios florestais, são atualizadas e compartilhadas rapidamente por meio de plataformas de redes sociais, disseminando informações e alertas de forma eficaz.

No entanto, juntamente com seus aspectos positivos, as redes sociais e as plataformas de compartilhamento comunitário estão trazendo consequências preocupantes. Ainda mais assustador é que, atualmente, não apenas os humanos, mas também as máquinas e, principalmente, a rápida infiltração da inteligência artificial (IA) estão tornando a internet em geral, e as plataformas tecnológicas em particular, um lugar repleto de riscos.

"A pandemia da informação" nas redes sociais.

Segundo estatísticas publicadas pela Redline no final de junho de 2024, existem 4,9 bilhões de usuários de mídias sociais no mundo. Essa pesquisa com cidadãos americanos também revelou que a grande maioria dos usuários de mídias sociais não confia na veracidade das informações disseminadas nessas plataformas, do Facebook e TikTok ao YouTube. Portanto, a organização utilizou o termo "pandemia de informação" para descrever o atual estado de desinformação nas mídias sociais.

O mundo das redes sociais é como uma floresta primitiva, quase sem regras. Vivendo nela, as pessoas desfrutam de fertilidade, liberdade e euforia, mas isso vem acompanhado de armadilhas mortais. Até hoje, quase todos os países ainda lutam para administrar e organizar essa "floresta primitiva", e muitos só agora começaram a lidar com as violações, enquanto esse "mundo" já abrangeu toda a humanidade.

No final de novembro deste ano, a Austrália tornou-se o primeiro país do mundo a promulgar oficialmente uma lei que proíbe crianças de entrarem neste mundo fascinante, porém perigoso e praticamente não regulamentado, "primitivo". Especificamente, a Austrália proíbe crianças menores de 16 anos de usarem redes sociais e imporá multas pesadas de até US$ 32 milhões caso as plataformas de redes sociais violem essa regra.

Nesse contexto, a explosão de notícias falsas, desinformação e, principalmente, golpes online nas redes sociais (bem como por meio de outras formas de alta tecnologia, como aplicativos e sites fraudulentos) continua sendo um problema global. No Vietnã, ouvimos diariamente histórias comoventes de vítimas de golpes de todos os tipos na internet. Globalmente, esse é um problema que afeta todos os países.

Em março deste ano, a Interpol relatou que a fraude cibernética no Sudeste Asiático havia se expandido globalmente, gerando até US$ 3 trilhões anualmente (equivalente ao PIB da França). Até mesmo uma empresa de tecnologia britânica perdeu US$ 25 milhões depois que golpistas usaram deepfakes para se passar por um gerente sênior e solicitar uma transferência de dinheiro. Esses são, obviamente, apenas alguns exemplos típicos entre milhões de golpes online.

Será que combater a disseminação de informações falsas nas redes sociais é uma tarefa impossível?

Apesar dos esforços incessantes de países e organizações globais para prevenir ou punir atividades ilegais no ciberespaço, particularmente em grandes plataformas de redes sociais como TikTok, Facebook e X, apenas um número muito pequeno de casos é efetivamente processado.

O que é ainda mais preocupante é que, até o momento, quase nenhum país ou organização responsabilizou as plataformas de mídia social por atividades ilícitas, como a disseminação de desinformação ou mesmo a violação da lei. Em maio deste ano, a própria Meta admitiu ter encontrado conteúdo "possivelmente gerado por IA" usado para distorcer a verdade ou enganar em suas plataformas do Facebook e Instagram. Essa declaração demonstra que as próprias plataformas de mídia social acreditam ter a "imparcialidade" de disseminar informações prejudiciais; caso contrário, não teriam admitido isso "voluntariamente".

Na verdade, grandes empresas de tecnologia como Meta, TikTok, Google, Microsoft e X foram multadas em bilhões de dólares em todo o mundo por suas violações, mas estas se relacionaram principalmente a infrações às normas de privacidade do usuário ou às leis antitruste. Quase não houve penalidades contra elas por violações ocorridas em suas próprias plataformas.

O incidente mais notável nessa área foi a prisão do CEO do Telegram, Pavel Durov, na França, acusado de facilitar atividades criminosas na plataforma de mensagens. No entanto, a prisão foi considerada politicamente motivada e realizada de forma secreta. Não se assemelhou a um típico caso jurídico público contra uma rede social ou empresa. De fato, o Telegram nunca foi penalizado por atividades criminosas em sua plataforma, embora as Nações Unidas tenham relatado, em outubro de 2024, que a plataforma era uma ferramenta usada por quadrilhas criminosas para transações ilícitas.

O mundo ainda luta para lidar com o problema das notícias falsas, da desinformação e dos golpes nas plataformas de mídia social. (Ilustração: IJNET)

Portanto, se mesmo diante de atividades ilegais tão flagrantes, nenhuma ação foi tomada contra as plataformas de mídia social ou sites de compartilhamento comunitário, fica claro que o controle de conteúdo prejudicial, notícias falsas e desinformação é uma perspectiva ainda mais distante.

Como resultado, essas plataformas não apenas não demonstram nenhum receio, como também agem cada vez mais com impunidade, incentivando informações controversas, sensacionalistas, absurdas ou prejudiciais para atrair espectadores por meio de seus algoritmos cada vez mais sofisticados. Vale ressaltar que as grandes empresas de tecnologia estão até mesmo dispostas a pressionar ou contestar qualquer tentativa de penalizá-las por essa questão. O bilionário Elon Musk, dono da rede social X, manifestou sua oposição, em setembro de 2024, a um novo projeto de lei australiano que propunha multar empresas de mídia social caso não conseguissem impedir a desinformação online.

De acordo com este projeto de lei australiano, as plataformas de internet poderão ser multadas em até 5% de sua receita global caso permitam a disseminação de desinformação. Outras grandes plataformas de tecnologia, como Google e Meta, também expressaram preocupação e contestaram o novo projeto de lei australiano. Vale ressaltar que este é um dos poucos projetos de lei no mundo que aborda penalidades para plataformas de mídia social por disseminarem desinformação, notícias falsas e atividades fraudulentas.

Ao observarmos o mundo da mídia e do jornalismo tradicionais, esse paradoxo se torna difícil de aceitar. Todos sabem que, se um jornal ou canal de televisão comete um erro profissional, mesmo que pequeno, quanto mais publica informações falsas ou ilegais, toda a organização pode sofrer severas penalidades ou, no mínimo, perder seus leitores. Não é apenas o repórter ou editor que publicou a informação que é responsabilizado.

A pandemia global está saindo do controle.

Pode-se afirmar que o problema da desinformação, das notícias falsas, do conteúdo prejudicial e dos golpes é mais grave do que qualquer guerra ou pandemia, pois pode afetar toda uma geração globalmente, especialmente os jovens. Numerosos estudos têm demonstrado como as redes sociais, particularmente os vídeos curtos e viciantes do Facebook, TikTok e Google, prejudicam a saúde física e mental das crianças.

Em um estudo recente, a UNICEF indicou que as plataformas de mídia social são projetadas para capturar a atenção dos usuários pelo maior tempo possível, explorando vieses e vulnerabilidades psicológicas, como o desejo de reconhecimento ou o medo da rejeição. O uso excessivo de mídias sociais está ligado a sentimentos de inveja, inferioridade e insatisfação com a vida. Estudos sugerem, inclusive, que esse hábito pode levar a sintomas de depressão, ansiedade e privação de sono, principalmente doenças mentais.

A cantora Taylor Swift é uma das figuras famosas que foi vítima do fenômeno da inteligência artificial deepfake. Foto: Herbert Wang

É provável que as regulamentações vietnamitas que exigem que as plataformas de mídia social verifiquem os usuários tenham algum efeito.

O Decreto 147/2024/ND-CP sobre a gestão, prestação e utilização de serviços de Internet e informação online, recentemente emitido pelo Governo do Vietname, entrará em vigor em 25 de dezembro de 2024. De acordo com o decreto, as redes sociais devem verificar os utilizadores através do número de telefone ou do número de identificação pessoal, e apenas as contas verificadas podem fornecer informações (publicar, comentar, transmitir em direto) e partilhar informações nas redes sociais. Espera-se que este decreto reduza significativamente a propagação de informações falsas e enganosas, e especialmente as atividades fraudulentas nas redes sociais.

Existem inúmeros exemplos que demonstram como a desinformação, as notícias falsas e as imagens deepfake podem ter impactos graves na vida real, podendo se tornar uma ameaça global. Em agosto deste ano, eclodiram distúrbios devido à disseminação de informações falsas nas redes sociais, alegando que o suspeito do assassinato a facadas de uma jovem no Reino Unido era um imigrante muçulmano radical (quando, na verdade, ele era um cidadão britânico). Os distúrbios resultaram em milhares de prisões pela polícia.

Na tentativa de assassinato de Donald Trump em julho de 2024, as redes sociais também foram inundadas por notícias falsas e teorias da conspiração, como a acusação de que um jornalista na Itália era o suspeito (na realidade, um americano de 20 anos). Além disso, houve distorções online alegando que o suspeito era chinês ou que o incidente foi uma "encenação". A disseminação de desinformação também alimenta o ódio em relação a conflitos e pontos críticos ao redor do mundo, como as guerras entre Rússia e Ucrânia e entre Israel e Palestina, ou questões de sentimento anti-muçulmano e antissemita.

Além disso, com a explosão da IA, a luta contra a desinformação está cada vez mais fora de controle. Ferramentas de deepfake e simuladores de IA baratos estão proliferando e permanecem em grande parte sem regulamentação.

De acordo com as estatísticas da DeepMedia, a quantidade de vídeos e vozes deepfake tem aumentado exponencialmente ano após ano. Os vídeos deepfake mais que triplicaram e as vozes deepfake aumentaram mais de oito vezes em 2023 em comparação com 2022. Estima-se que aproximadamente 500.000 vídeos e vozes deepfake serão compartilhados nas redes sociais em todo o mundo em 2024.

No início de 2024, uma série de imagens pornográficas da cantora Taylor Swift, geradas por inteligência artificial, se espalhou pelas redes sociais, causando indignação generalizada. Além disso, diversos políticos ao redor do mundo, incluindo o presidente dos EUA, Joe Biden, e líderes do Reino Unido, Índia, Nigéria, Sudão, Etiópia e Eslováquia, também foram vítimas do fenômeno deepfake.

Assim, o problema das notícias falsas, da desinformação e, principalmente, das fraudes online está se tornando cada vez mais sério. Na era da IA ​​que se aproxima, essa "pandemia global" poderá sair do controle sem os esforços conjuntos de todo o mundo, em especial dos formuladores de políticas em cada país, para preveni-la.

Hoang Hai

Fonte: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html