A IA está moldando o futuro - Parte 2: Os desafios que a acompanham

O potencial traz consigo riscos

É inegável que a inteligência artificial (IA) vem se mostrando cada vez mais uma ferramenta poderosa para apoiar trabalhadores e facilitar a vida humana. No entanto, esses produtos tecnológicos são como uma "faca de dois gumes" quando explorados por criminosos para cometer fraudes e ataques no ciberespaço.

Nos boletins de alerta do Departamento de Segurança da Informação ( Ministério da Informação e Comunicações ) e da Associação de Segurança Cibernética, foram citados muitos casos registrados de fraude com tecnologia de IA. Por exemplo, a Sra. Nguyen Thanh T, funcionária de escritório em Hanói, conversou com um amigo pelo Facebook Messenger. O amigo se despediu e encerrou a conversa, mas de repente voltou a enviar mensagens de texto, pedindo dinheiro emprestado e solicitando a transferência para uma conta bancária. Embora o nome da conta correspondesse ao nome do amigo, a Sra. T suspeitou e solicitou uma videochamada para verificar. O amigo concordou imediatamente, mas a ligação durou apenas alguns segundos devido à "intermitência da rede".

Ao ver o rosto da amiga na videochamada , e a voz também estava correta, a Sra. T transferiu o dinheiro. No entanto, somente após a transferência ser bem-sucedida ela percebeu que havia caído na armadilha do hacker.

Não apenas a Sra. T, mas muitas outras vítimas, amigos e parentes, também foram vítimas do mesmo golpe. A quantia de dinheiro que os criminosos roubaram, se passando por ferramentas e vozes falsas do Deep, chegou a dezenas de milhões de dongs.

Outro exemplo típico de uso de IA para apropriação de ativos é o caso do Sr. NTH: ao usar um telefone Android, golpistas montaram uma armadilha com instruções para instalar um link de malware. A partir daí, eles assumiram o controle do telefone e das contas bancárias para transferir dinheiro para terceiros. Além disso, o malware também contatava automaticamente as informações de contato disponíveis e enviava mensagens automáticas solicitando transferências de dinheiro.

O Sr. NTH afirmou que o impostor se apresentou como um " policial ", ligou para o seu número de telefone e pediu para verificar suas informações de identificação pessoal. Por ser idoso, pouco familiarizado com tecnologia e ingênuo, a vítima passou seu telefone para uma terceira pessoa para pedir que ela seguisse as instruções do golpista, baixando e instalando o aplicativo malicioso "DichVuCong.apk" em seu telefone.

O Sr. Tran Nguyen Chung, Chefe do Departamento de Segurança de Sistemas de Informação (Departamento de Segurança da Informação), afirmou: Com o desenvolvimento da tecnologia de IA, a detecção e a distinção entre conteúdo real e falso no ciberespaço se tornarão mais difíceis, e qualquer pessoa pode se tornar alvo, vítima de ataques cibernéticos por criminosos que utilizam tecnologia de IA. No entanto, a decisão de se tornar ou não vítima depende de cada pessoa estar munida do conhecimento e das informações necessárias.

Essa situação de fraude com tecnologia de IA não está ocorrendo apenas no Vietnã, mas também em muitos países ao redor do mundo. Atualmente, agências, organizações e grandes corporações de tecnologia estão trabalhando juntas para encontrar medidas e soluções técnicas para detectá-la e preveni-la desde a raiz.

No período atual, a medida importante é promover a propaganda e conscientizar as pessoas sobre métodos, truques e maneiras de reconhecer e lidar com essa forma sofisticada de falsificação, a fim de ajudar a reduzir e limitar o impacto do deepfake nas atividades no ciberespaço. Emitir alertas proativos e generalizados na mídia de massa quando houver novos desenvolvimentos e formas de fraude.

“Em caso de recebimento de chamadas de chantagem com imagens ou vídeos sensíveis, as pessoas precisam manter a calma, verificar e pesquisar cuidadosamente a origem das imagens e vídeos”, disse o Sr. Tran Nguyen Trung.

De acordo com o relatório de pesquisa "Identificando riscos para a economia global em 2024", da Universidade de Economia (UEB) da Universidade Nacional do Vietnã, em Hanói, um dos riscos que afetam a economia global é o risco no setor de tecnologia. O relatório afirma que, no contexto da rápida ascensão da IA, as políticas de gestão não têm sido capazes de acompanhar o desenvolvimento da IA. A desinformação que a IA fornece, especialmente em um ano com muitas eleições no mundo como este, tem levantado muitos problemas para a segurança, a política, a defesa e a paz em todo o mundo.

Falando aos repórteres do jornal Tin Tuc, o vice-ministro da Ciência e Tecnologia Nguyen Hoang Giang disse: “O primeiro-ministro emitiu a Decisão nº 127/2021 sobre a estratégia nacional de pesquisa, desenvolvimento e aplicação da inteligência artificial até 2030. Para implementar, o Ministério da Ciência e Tecnologia, bem como outros ministérios e ramos, têm implementado de forma drástica e sincronizada, como o Ministério da Justiça pesquisando o aspecto legal. O Ministério da Informação e Comunicações pesquisando tecnologia digital. O Ministério da Ciência e Tecnologia também apoiou, pesquisou e desenvolveu a indústria 4.0; pesquisou e aplicou o desenvolvimento de tecnologia da informação, servindo ao desenvolvimento de cidades digitais e inteligentes. No entanto, com o desenvolvimento rápido e forte, os aspectos negativos e os riscos da IA ​​também apareceram quando ela é abusada para se tornar uma ferramenta para criminosos cibernéticos com o propósito de fraude, personificação, ameaças, apropriação de propriedade, etc.

Até agora, junto com a pesquisa, o Ministério da Ciência e Tecnologia e o Governo também estão construindo ativamente uma estrutura legal, aprendendo com as experiências de outros países desenvolvidos para que o campo da IA ​​no Vietnã promova seu potencial, promova o desenvolvimento, bem como controle rigorosamente, garanta a ética e a humanidade no campo da inteligência artificial.

O rápido desenvolvimento de ferramentas de IA levantou muitas questões relacionadas a direitos humanos, ética, privacidade, segurança da informação e responsabilidade legal. Comparado ao resto do mundo, o Vietnã ainda está nos estágios iniciais de desenvolvimento da IA. Portanto, há necessidade de regulamentações e políticas específicas de IA que sejam adequadas a todos os aspectos da vida, economia e sociedade no Vietnã.

Emitir urgentemente um quadro jurídico

Gerenciar o lado obscuro da IA ​​também é um tema discutido em diversos países. O Parlamento Europeu aprovou o primeiro conjunto de regras básicas do mundo para regulamentar a inteligência artificial. Muitos especialistas em tecnologia acreditam que esse conjunto de regras ajudará a UE a atingir ambos os objetivos: minimizar o impacto negativo do desenvolvimento tecnológico sobre os usuários e alcançar a posição dominante dos principais concorrentes no mercado.

Pouco tempo depois, a Assembleia Geral das Nações Unidas adotou uma resolução sobre inteligência artificial (IA), fornecendo apoio global aos esforços internacionais para garantir que essa nova tecnologia beneficie todos os países, respeite os direitos humanos e seja “segura, protegida e confiável”.

O Sr. Vu Ngoc Son, Diretor Técnico da National Cyber ​​​​Security Technology Joint Stock Company, afirmou: “A IA é uma tecnologia que atende aos interesses humanos, apoiando a automação de diversas etapas operacionais. Trata-se de uma ferramenta poderosa, utilizada para diversos fins, como prestação de serviços de perguntas e respostas, produção de software, etc. No entanto, a IA também apresenta um lado negativo quando cai nas mãos de criminosos com o objetivo de criar conteúdo fraudulento e códigos maliciosos para atacar usuários. Portanto, a IA não é uma ferramenta específica para a criação de produtos ou crimes, mas a questão importante é "como usar" a IA.

“Acredito que as sanções e os corredores legais não acompanharam a velocidade do desenvolvimento da IA. Precisaremos de tempo para construir e implementar políticas que limitem os riscos da IA ​​quando usada para fins nocivos, afetando os direitos humanos, bem como a segurança, a ordem e a proteção social”, disse o Sr. Vu Ngoc Son.

O Dr. Dang Minh Tuan, Diretor do Instituto CMC ATI, afirmou: “Por um lado, ainda precisamos continuar pesquisando e desenvolvendo novas tecnologias, atualizando e estudando métodos de uso da IA ​​para fins maliciosos. Por outro lado, também precisamos promover a honestidade na ciência e no trabalho. Consequentemente, é necessário fazer ajustes e investir em conteúdo e políticas específicas para essa ferramenta no Vietnã. Em particular, também podemos usar ferramentas de IA para detectar conteúdo e código maliciosos. A IA é como uma "espada de dois gumes", criando um processo de impacto contínuo e contínuo, melhorando continuamente com o objetivo final de servir aos interesses humanos”.

Especialistas dizem que a necessidade é controlar o desenvolvimento de produtos de alta tecnologia de forma responsável, porque a incapacidade de regular e dominar a tecnologia levará a consequências imprevisíveis, causando prejuízos à economia e afetando cada indivíduo, bem como toda a sociedade.

A emissão de regulamentações específicas e transparentes não só ajudará a prevenir e minimizar os riscos que a IA pode causar, mas também ajudará o Vietnã a atrair atenção e investimento das principais empresas de tecnologia do mundo, promovendo o desenvolvimento da indústria nacional de tecnologia da informação e IA.

Artigo final: Desenvolvimento paralelo e controle da IA

Fonte: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238