Redes sociais, inteligência artificial e algoritmos de amplificação: a combinação "atômica" que está transformando o mundo.

Algoritmo de incitação ao ódio

Os algoritmos das redes sociais deixaram de se limitar a sugerir conteúdo de entretenimento e passaram a amplificar discursos de ódio e ideologias extremistas. O Secretário-Geral da ONU, António Guterres, alertou que algumas plataformas de redes sociais se tornaram "depósitos tóxicos" repletos de discursos de ódio e desinformação, alimentando a disseminação do extremismo.

Estudos práticos mostram que, em poucos dias, os algoritmos de recomendação podem agravar o problema. Por exemplo, um estudo realizado no Reino Unido constatou que o algoritmo do TikTok quadruplicou as recomendações de conteúdo misógino, passando de 13% para 56% dos vídeos em apenas cinco dias.

Os pesquisadores explicam que o algoritmo visa automaticamente as vulnerabilidades dos usuários (como sentimentos de solidão, perda de controle, ódio), transformando conteúdo extremista em "entretenimento" atraente para captar a atenção do público.

Hoje em dia, nas redes sociais, até mesmo pequenas informações ou boatos infundados podem facilmente desencadear violência. Um exemplo típico são os distúrbios no Reino Unido em 2024. Após o ataque em Southport, boatos falsos sobre o suspeito — de que ele era muçulmano ou refugiado — se espalharam rapidamente nas redes sociais, juntamente com discursos de ódio contra muçulmanos e imigrantes. De acordo com um relatório de 2024 do Escritório de Contabilidade Geral dos EUA (GAO), quase um terço dos usuários da internet já foi exposto a discursos de ódio online.
Em particular, uma série de protestos graves recentes, tumultos liderados pela Geração Z ou por estudantes em diferentes países, da Ásia à África e à América Latina, foram todos iniciados e incitados em plataformas de redes sociais, com um cenário quase idêntico: explorar uma questão e, em seguida, incitar toda a sociedade.

Ele conquistou — Softwares de IA e algoritmos de amplificação estão manipulando tanto o mundo virtual quanto o real. Ilustração: Nafets

A maior parte do mundo está imersa em "ilusão".

Com a explosão da IA, a situação está saindo do controle, permitindo que praticamente qualquer pessoa crie uma "fábrica de notícias falsas" em uma escala e velocidade sem precedentes. Modelos de IA como GPT, Claude ou LLaMA podem gerar automaticamente uma série de artigos, imagens e vídeos distorcidos em uma fração de segundo. Um sistema de bots de IA pode criar e compartilhar simultaneamente milhares de posts ou comentários, transformando notícias falsas e tóxicas em "tendências" online.

Um estudo da Universidade RIT, nos EUA, afirmou: "A IA tornou muito rápido amplificar todos os tipos de desinformação... Os bots de IA podem espalhar esse conteúdo pela internet, porque não precisam depender de humanos para criá-lo."

Hoje em dia, por apenas algumas dezenas de dólares por mês para uma ferramenta de IA, qualquer pessoa pode criar milhares de imagens e vídeos falsos de qualquer coisa, desde vozes e fotos até vídeos. O nível de sofisticação e prevalência é tão grande que hoje todos nós temos uma dúvida: será que o que vemos nas redes sociais é gerado por IA?

Mas a ironia é que a maior parte do mundo está imersa nesse mundo “virtual” por horas, todos os dias – chegando até a apreciá-lo como se fosse um “vício”. De acordo com o relatório Digital 2025, cerca de 5,2 a 5,6 bilhões de pessoas usam redes sociais, o equivalente a 64% da população mundial. E o tempo médio que cada pessoa passa nas redes sociais gira em torno de 2 horas e 20 minutos por dia.

É preciso controlar as bombas "atômicas".

Com a produção de notícias falsas e desinformação a um custo cada vez menor e com maior periculosidade, o controle do conteúdo na internet praticamente escapou ao controle humano. O especialista em tecnologia Lukasz Olejnik, do King's College London (Reino Unido), comentou: "A cada mês, as fábricas [de notícias falsas] ficam mais baratas, mais sofisticadas e mais difíceis de detectar."

Entretanto, um estudo da RAND, de 2024, apontou que a possibilidade de a IA "inundar a internet" com contas falsas nas redes sociais é clara e quase inevitável, a menos que haja alguma reviravolta.

A tecnologia nuclear já foi uma grande invenção da humanidade, assim como as redes sociais. No entanto, se não for controlada, pode causar um desastre. Da mesma forma, se as redes sociais, a inteligência artificial e os algoritmos de amplificação forem deixados sem controle, podem desencadear "bombas atômicas" no ciberespaço – e serem poderosos o suficiente para destruir o mundo real.

Fonte: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html