Convenção de Hanói: especialistas propõem "imunidade digital" contra desafios da IA

O Tenente-Coronel, PhD, criminologista Dao Trung Hieu afirmou que o desenvolvimento da inteligência artificial (IA) vem mudando profundamente a maneira como as pessoas criam, recebem e verificam informações. Tecnologias como deepfake, vozes sintéticas ou imagens artificiais fazem com que a linha entre o real e o falso se torne tênue como nunca antes.

Tenente Coronel, PhD, especialista em criminologia Dao Trung Hieu. Foto: NVCC.

De acordo com estatísticas da Europol (2024), cerca de 90% do conteúdo online hoje tem intervenção de IA em diferentes níveis, dos quais 15% apresentam sinais de falsificação intencional.

No Vietnã, o Ministério da Segurança Pública registrou uma série de casos criminais de uso de IA para se passar por parentes, funcionários de bancos ou agências estatais para se apropriar de propriedades, com alguns casos causando perdas de até dezenas de bilhões de dongs.

O que preocupa não é apenas o dano material, mas também a erosão da confiança social, a base de todas as relações humanas. Quando a verdade pode ser recriada, a confiança, que é a base de todas as relações sociais, torna-se o primeiro alvo do ataque.

“Os fenômenos acima não são simplesmente uma transformação das ferramentas criminosas, mas uma reformulação do espaço do comportamento criminoso, com características completamente novas: intangível, transfronteiriço, anônimo e autodidata”, disse o Coronel Sênior Dao Trung Hieu.

A transformação da estrutura do comportamento criminoso na era da IA

O Tenente-Coronel Dao Trung Hieu afirmou que os crimes na era da IA não se limitam mais ao espaço físico. Os atos criminosos são realizados por meio de modelos de dados, algoritmos e sistemas de geração automatizada, permitindo que indivíduos ou organizações falsifiquem a autenticidade de todos os tipos de informações.

Se em crimes tradicionais, os vestígios físicos (provas, cenas de crime, testemunhas) são a base principal, em crimes de alta tecnologia, os vestígios digitais são a chave. A IA ajuda os criminosos a alcançar duas capacidades perigosas: realidade sintética, fazendo com que o destinatário acredite em algo que não existe, e erosão da atribuição, dificultando a localização da origem do comportamento.

De uma perspectiva criminológica, é possível observar uma mudança na estrutura dos quatro elementos do crime:

Primeiro, o Sujeito não é mais um indivíduo único, mas pode ser um sistema automatizado ou um grupo de pessoas que o controlam remotamente;

Em segundo lugar, o objeto violado não é apenas propriedade, honra ou dados, mas também confiança social - um valor intangível, mas de importância fundamental;

Terceiro, os meios de cometer crimes são programados, autodidatas, difíceis de controlar e podem ser replicados indefinidamente;

Quarto, as consequências sociais não param nos danos econômicos , mas se espalham para a psicologia, a moralidade e a segurança nacional.

“Assim, a inteligência artificial não apenas apoia os humanos na criatividade e na produção, mas também reestrutura o comportamento desviante, tornando o conceito de “criminologia digital” uma nova direção de pesquisa da ciência criminal moderna”, disse o Sr. Hieu.

Passando da investigação tradicional para a investigação no espaço de dados

O Sr. Hieu afirmou que o surgimento de crimes baseados em IA força as agências de investigação a inovar seus modelos de trabalho. Em vez de investigar após o evento, é necessário investigar os dados em paralelo, coletando e analisando o fluxo de informações à medida que o comportamento ocorre.

Técnicas como análise de traços de IA estão sendo pesquisadas, o que permite a recuperação de características específicas de cada modelo generativo, semelhante às “impressões digitais” na perícia digital.

No Vietnã, unidades profissionais do Ministério da Segurança Pública se coordenaram com empresas de tecnologia para criar um banco de dados de amostras de reconhecimento de voz, rosto e vídeo criadas por IA.

Além disso, a infraestrutura jurídica também precisa ser aprimorada. É necessário incluir o crime de “uso de inteligência artificial para cometer crimes” nos estudos de alteração do Código Penal e, ao mesmo tempo, deve haver regulamentação específica sobre as responsabilidades dos proprietários e operadores de sistemas de IA.

O mais importante é mudar de uma mentalidade de "caça ao culpado" para uma mentalidade de "prevenção proativa". Numa era em que um vídeo falso pode se espalhar mais rápido do que um anúncio oficial, a capacidade de resposta rápida e coordenação entre todas as partes, incluindo o Estado, as empresas e a comunidade, torna-se um fator-chave.

Imunidade digital, “anticorpos” na era da IA

Um conceito enfatizado pelo Tenente-Coronel, Dr. Dao Trung Hieu, é a "imunidade digital", que é a capacidade da sociedade de se autoidentificar e reagir a informações falsas. Para construir a imunidade digital, segundo ele, é necessário convergir três grupos de soluções.

A cerimônia de assinatura da Convenção das Nações Unidas contra o Crime Cibernético ocorreu em Hanói em 25 de outubro. Foto: Governo.

Primeiro, construir um corredor jurídico flexível e evolutivo, garantindo um equilíbrio entre controle e inovação. As leis não devem "enquadrar" a IA, mas precisam ser flexíveis para se adaptar às rápidas mudanças tecnológicas, garantindo ao mesmo tempo o princípio da dupla responsabilidade — indivíduos ou organizações que utilizam IA devem ser responsáveis pelos produtos que criam.

Em segundo lugar, estabelecer um mecanismo nacional de identificação para conteúdo gerado por IA, por meio de padrões de autenticação de origem digital (marca d'água de IA, código de proveniência). As plataformas digitais devem ser obrigadas a rotular ou verificar o conteúdo gerado por IA, ajudando os usuários a distinguir entre conteúdo real e falso desde a fase de recepção.

Terceiro, a educação e as mídias sociais são uma linha de defesa de longo prazo. As leis podem regular o comportamento, mas somente a educação pode regular a conscientização. Integrar conhecimentos sobre segurança de dados, habilidades de reconhecimento de notícias falsas e ética tecnológica à educação geral e aos currículos universitários criará uma classe de cidadãos com "anticorpos digitais", uma base sustentável para uma sociedade segura.

Segundo o Sr. Hieu, a inteligência artificial não é apenas um avanço tecnológico, mas também um teste moral e legal da humanidade. Quando as máquinas conseguem recriar a verdade, as pessoas são forçadas a aprender a proteger a única crença que não pode ser programada.

O Vietnã precisa assumir a liderança proativamente, construindo uma estrutura legal flexível, aprimorando a cooperação público-privada na prevenção de crimes de IA e promovendo a educação sobre imunidade digital para a população.

“Uma sociedade segura na era da inteligência artificial não é aquela com os firewalls mais fortes, mas sim aquela com os cidadãos mais alertas. Se os dados são o combustível da era digital, então a confiança é o motor. Sem confiança, qualquer sistema entra em colapso, não importa quão avançada seja a tecnologia”, enfatizou o criminologista.

Em 25 de outubro, ocorreu em Hanói a cerimônia de assinatura da Convenção das Nações Unidas contra o Cibercrime, com o tema "Combatendo o Cibercrime - Compartilhando Responsabilidades - Olhando para o Futuro". A Convenção de Hanói é considerada um passo importante na construção do primeiro arcabouço jurídico global para coordenar esforços conjuntos de combate ao cibercrime. Este é um marco histórico não apenas para a comunidade internacional, mas também para afirmar o papel e a posição do Vietnã no cenário internacional.

Fonte: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html