A IA está moldando o futuro - Parte 2: Os desafios que isso acarreta.

Potencial vem acompanhado de risco.

É inegável que a inteligência artificial (IA) está se mostrando cada vez mais uma ferramenta poderosa para auxiliar trabalhadores e facilitar a vida humana. No entanto, esses produtos tecnológicos são como uma "faca de dois gumes" quando explorados por criminosos para cometer fraudes e ataques no ciberespaço.

Nos boletins de alerta do Departamento de Segurança da Informação ( Ministério da Informação e Comunicações ) ou da Associação de Segurança Cibernética, foram citados muitos casos registrados de fraude utilizando tecnologia de IA. Por exemplo, a Sra. Nguyen Thanh T, funcionária de escritório em Hanói, enquanto conversava com uma amiga pelo Facebook Messenger, a amiga se despediu e encerrou a conversa, mas repentinamente retornou a mensagem, pedindo dinheiro emprestado e solicitando uma transferência para uma conta bancária. Embora o nome da conta coincidisse com o da amiga, a Sra. T desconfiou e solicitou uma chamada de vídeo para verificar. A amiga concordou imediatamente, mas a chamada durou apenas alguns segundos devido a uma "intermitência na rede".

Ao ver o rosto da amiga na videochamada e constatar que a voz também estava correta, a Sra. T transferiu o dinheiro. No entanto, somente após a transferência ser concluída com sucesso, ela percebeu que havia caído na armadilha do hacker.

Não apenas a Sra. T, mas muitas outras vítimas, amigos e parentes, também foram enganados da mesma forma. O montante total obtido pelos golpistas, que se fizeram passar por outras pessoas usando ferramentas de deepfake e vozes falsas, chegou a dezenas de milhões de dongs.

Outro exemplo típico de uso de IA para apropriação indevida de ativos é o caso do Sr. NTH, que, ao usar um telefone Android, foi alvo de golpistas que armaram uma cilada com instruções para instalar um malware. A partir daí, eles assumiram o controle do telefone e das contas bancárias para transferir dinheiro para terceiros. Além disso, o malware também contatou automaticamente as informações de contato disponíveis e enviou mensagens automáticas solicitando transferências de dinheiro.

O Sr. NTH relatou que o impostor alegou ser um " policial ", ligou para o seu número de telefone e pediu para verificar suas informações pessoais. Por ser idoso, não ter familiaridade com tecnologia e ser ingênuo, a vítima passou o telefone para uma terceira pessoa, que pediu que ela seguisse as instruções do golpista, baixando e instalando o aplicativo malicioso "DichVuCong.apk" em seu telefone.

O Sr. Tran Nguyen Chung, Chefe do Departamento de Segurança de Sistemas de Informação (Departamento de Segurança da Informação), afirmou: "Com o desenvolvimento da tecnologia de IA, detectar e distinguir entre conteúdo real e falso no ciberespaço se tornará mais difícil, e qualquer pessoa poderá se tornar alvo de ataques cibernéticos por criminosos que utilizam IA. No entanto, tornar-se ou não uma vítima depende do conhecimento e das informações necessárias que cada pessoa possui."

Essa situação de fraude envolvendo tecnologia de IA não está ocorrendo apenas no Vietnã, mas também em muitos países ao redor do mundo. Atualmente, agências, organizações e grandes empresas de tecnologia estão trabalhando em conjunto para encontrar medidas e soluções técnicas para detectar e prevenir esse problema desde a sua origem.

No período atual, a medida importante é promover a divulgação, conscientizar as pessoas sobre métodos, truques e maneiras de reconhecer e lidar com essa forma sofisticada de falsificação, a fim de ajudar a reduzir e limitar o impacto dos deepfakes nas atividades no ciberespaço. É fundamental emitir alertas proativos e generalizados nos meios de comunicação quando houver novos desdobramentos e formas de fraude.

“Em caso de receber ligações de chantagem com imagens ou vídeos sensíveis, as pessoas precisam manter a calma, verificar e pesquisar cuidadosamente a origem das imagens e vídeos”, disse o Sr. Tran Nguyen Trung.

De acordo com o relatório de pesquisa “Identificando riscos para a economia global em 2024”, da Universidade de Economia (UEB) da Universidade Nacional do Vietnã, em Hanói, um dos riscos que afetam a economia global é o risco no setor de tecnologia. O relatório afirma que, no contexto da rápida ascensão da Inteligência Artificial (IA), as políticas de gestão não conseguiram acompanhar o desenvolvimento dessa tecnologia. A desinformação gerada pela IA, especialmente em um ano com tantas eleições no mundo como este, tem gerado diversos problemas para a segurança, a política, a defesa e a paz global.

Em declarações à imprensa, o vice-ministro da Ciência e Tecnologia, Nguyen Hoang Giang, afirmou: “O primeiro-ministro emitiu a Decisão nº 127/2021 sobre a estratégia nacional de pesquisa, desenvolvimento e aplicação da inteligência artificial até 2030. Para implementá-la, o Ministério da Ciência e Tecnologia, assim como outros ministérios e departamentos, têm trabalhado de forma drástica e sincronizada. Por exemplo, o Ministério da Justiça está pesquisando o aspecto jurídico, o Ministério da Informação e Comunicações está pesquisando tecnologia digital e o Ministério da Ciência e Tecnologia tem apoiado, pesquisado e desenvolvido a Indústria 4.0, além de pesquisar e aplicar o desenvolvimento de tecnologia da informação, servindo ao desenvolvimento de cidades digitais e inteligentes. No entanto, com o rápido e intenso desenvolvimento, os aspectos negativos e os riscos da IA ​​também surgiram quando ela é usada indevidamente como ferramenta por cibercriminosos para fins de fraude, falsificação de identidade, ameaças, apropriação indébita, etc.”

Até o momento, além da pesquisa, o Ministério da Ciência e Tecnologia e o Governo também estão construindo ativamente um arcabouço legal, aprendendo com as experiências de outros países desenvolvidos, para que o campo da IA ​​no Vietnã promova seu potencial, impulsione o desenvolvimento e, ao mesmo tempo, seja rigorosamente controlado, assegurando a ética e a humanidade na área da inteligência artificial.

O rápido desenvolvimento das ferramentas de IA tem levantado muitas questões relativas aos direitos humanos, ética, privacidade, segurança da informação e responsabilidade legal. Em comparação com o resto do mundo, o Vietnã ainda se encontra nos estágios iniciais do desenvolvimento da IA. Portanto, há necessidade de regulamentações e políticas específicas de IA que sejam adequadas a todos os aspectos da vida, da economia e da sociedade vietnamita.

É urgente a publicação do quadro legal.

Lidar com o lado obscuro da IA ​​também é um tema que vem sendo debatido em diversos países. O Parlamento Europeu aprovou o primeiro conjunto de regras básicas do mundo para regulamentar a inteligência artificial. Muitos especialistas em tecnologia acreditam que esse conjunto de regras ajudará a UE a atingir dois objetivos: minimizar o impacto negativo do desenvolvimento tecnológico sobre os usuários e, ao mesmo tempo, alcançar a posição dominante de seus principais concorrentes no mercado.

Pouco tempo depois, a Assembleia Geral das Nações Unidas adotou uma resolução sobre inteligência artificial (IA), fornecendo apoio global aos esforços internacionais para garantir que essa nova tecnologia beneficie todos os países, respeite os direitos humanos e seja “segura, protegida e confiável”.

O Sr. Vu Ngoc Son, Diretor Técnico da National Cyber ​​​​Security Technology Joint Stock Company, afirmou: “A IA é uma tecnologia que serve aos interesses humanos, auxiliando na automação de diversas etapas operacionais. Trata-se de uma ferramenta poderosa, utilizada para muitos fins diferentes, como o fornecimento de serviços de perguntas e respostas, a produção de software, etc. No entanto, a IA também apresenta um lado negativo quando cai nas mãos de agentes mal-intencionados com o objetivo de criar conteúdo fraudulento e códigos maliciosos para atacar usuários. Portanto, a IA não é uma ferramenta específica para a criação de produtos ou crimes, mas sim a questão crucial de “como usar” a IA.”

“Acredito que as sanções e os mecanismos legais não acompanharam a velocidade do desenvolvimento da IA. Precisaremos de tempo para construir e implementar políticas que limitem os riscos da IA ​​quando usada para fins maliciosos, afetando os direitos humanos, bem como a segurança, a ordem e a estabilidade social”, afirmou o Sr. Vu Ngoc Son.

O Dr. Dang Minh Tuan, Diretor do Instituto CMC ATI, afirmou: “Por um lado, precisamos continuar pesquisando e desenvolvendo novas tecnologias, atualizando e estudando métodos para evitar o uso indevido da IA. Por outro lado, também precisamos promover a honestidade na ciência e no trabalho. Consequentemente, é necessário fazer ajustes e investir em conteúdo e em políticas específicas para essa ferramenta no Vietnã. Em particular, podemos usar ferramentas de IA para detectar conteúdo e código maliciosos. A IA é como uma “faca de dois gumes”, criando um processo de impacto contínuo, aprimorando-se constantemente com o objetivo final de servir aos interesses da humanidade”.

Especialistas afirmam que é necessário controlar o desenvolvimento de produtos de alta tecnologia de forma responsável, pois a incapacidade de regular e dominar a tecnologia levará a consequências imprevisíveis, causando prejuízos à economia e afetando tanto o indivíduo quanto a sociedade como um todo.

A emissão de regulamentações específicas e transparentes não só ajudará a prevenir e minimizar os riscos que a IA pode causar, como também ajudará o Vietnã a atrair a atenção e o investimento das principais empresas de tecnologia do mundo, promovendo o desenvolvimento da indústria nacional de tecnologia da informação e IA.

Artigo final: Desenvolvimento paralelo e controle de IA

Fonte: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238