Em maio de 2024, grandes empresas globais de tecnologia lançaram novas versões de inteligência artificial (IA), como a OpenAI com o GPT-40 e o Google com o Gemini 1.5 Pro, adicionando muitos recursos "superinteligentes" para otimizar a experiência do usuário. No entanto, é inegável que essa tecnologia está sendo explorada por cibercriminosos em inúmeros golpes online.
Os riscos estão aumentando.
Em uma conferência recente, o Vice-Ministro da Informação e Comunicações, Pham Duc Long, destacou a realidade do aumento contínuo dos ciberataques, cada vez mais sofisticados e complexos. Em particular, com o auxílio da Inteligência Artificial (IA), os riscos enfrentados pelos usuários aumentarão exponencialmente. "A tecnologia de IA está sendo usada por cibercriminosos para criar facilmente novos malwares e ataques de phishing sofisticados...", alertou o Vice-Ministro Pham Duc Long.
De acordo com um relatório do Departamento de Segurança da Informação do Ministério da Informação e Comunicações, os riscos de cibersegurança relacionados à IA causaram prejuízos superiores a US$ 1 trilhão em todo o mundo, sendo que o Vietnã sozinho responde por 8 a 10 trilhões de VND. O problema mais comum atualmente é o uso de IA para falsificar vozes e rostos para fins fraudulentos. Prevê-se que, até 2025, haverá aproximadamente 3.000 ataques por segundo, 12 amostras de malware por segundo e 70 novas vulnerabilidades/fragilidades por dia.
Segundo Nguyen Huu Giap, diretor da BShield – empresa especializada em segurança para aplicativos –, criar imagens e vozes falsas tornou-se muito mais fácil com o avanço da inteligência artificial. Criminosos podem coletar dados de usuários a partir de informações públicas que eles publicam em redes sociais ou por meio de táticas como entrevistas de emprego online ou ligações telefônicas disfarçadas de "agências oficiais". Em uma simulação realizada pela BShield, a partir de um rosto pré-existente obtido por videochamada , criminosos podem transferi-lo para um documento de identidade nacional, sobrepô-lo a um corpo em movimento para enganar a ferramenta eKYC, e o sistema o identificará como uma pessoa real.
Golpes que utilizam tecnologia deepfake estão se tornando cada vez mais comuns e sofisticados. (Foto: LE TINH)
Do ponto de vista do usuário, o Sr. Nguyen Thanh Trung, especialista em TI na cidade de Ho Chi Minh, está preocupado com a possibilidade de agentes maliciosos explorarem o ChatGPT para criar e-mails de phishing com conteúdo e estilo de escrita semelhantes a e-mails legítimos de bancos ou organizações confiáveis. Esses e-mails podem conter malware e, se os usuários clicarem neles, seus dados certamente serão roubados e seus bens apropriados indevidamente. "O software de IA está em constante aprimoramento, sendo capaz de criar vídeos falsos com rostos e vozes até 95% semelhantes a pessoas reais, com gestos que mudam em tempo real, tornando muito difícil para os espectadores detectarem a fraude", disse o Sr. Trung.
Finalizar rapidamente o quadro legal.
Para mitigar os riscos de fraudes de alta tecnologia, o especialista em segurança Pham Dinh Thang aconselha os usuários a atualizarem regularmente seus conhecimentos sobre IA e a evitarem clicar em links de fontes desconhecidas. As empresas devem destinar orçamentos para segurança de dados e operação de sistemas. Os funcionários também precisam de treinamento aprofundado para identificar vulnerabilidades reais em seus sistemas e aprimorar sua capacidade de reconhecer diversos tipos de ataques cibernéticos.
O Sr. Ta Cong Son, Chefe do Departamento de Desenvolvimento de IA - Projeto Antifraude, afirmou que a IA se tornou profundamente integrada à vida dos usuários e às operações de empresas, agências e organizações graças aos seus recursos de suporte incrivelmente inteligentes. Notavelmente, a tecnologia de IA atual é muito acessível e fácil de usar, o que facilita a exploração por agentes maliciosos para fins fraudulentos. "Os fraudadores também estão constantemente mudando seus métodos de ataque, portanto, os usuários devem atualizar regularmente suas informações para saber como se proteger", aconselhou o Sr. Son.
Segundo especialistas, os modelos GPT-4o e Gemini 1.5 Pro, recentemente atualizados, comprovam que a inteligência artificial não tem limites. Portanto, além de incentivar as empresas a desenvolverem ferramentas e soluções antifraude baseadas em IA, os órgãos reguladores precisam finalizar rapidamente o arcabouço legal para IA, a fim de acompanhar essa tendência.
O Tenente-Coronel Nguyen Anh Tuan, Vice-Diretor do Centro Nacional de Dados Populacionais, acredita que regulamentações sobre a ética e as responsabilidades de prestadores de serviços nacionais e estrangeiros no desenvolvimento, produção, aplicação e uso de IA devem ser publicadas em breve. Ao mesmo tempo, são necessárias regulamentações específicas sobre padrões técnicos para sistemas que utilizam, aplicam, conectam e fornecem serviços de IA. "Precisamos pesquisar e aplicar projetos de IA para combater os riscos da IA. Como a IA é criada por humanos, é um produto do conhecimento, haverá variantes de 'IA boa' e 'IA ruim', o que pode dificultar o desenvolvimento da inteligência artificial por meio da própria IA", observou o Tenente-Coronel Tuan.
Desafios da cibersegurança
O Tenente-Coronel Nguyen Anh Tuan reconheceu que a IA representa desafios para a cibersegurança. Ele observou que malwares baseados em IA podem ser instalados em arquivos de documentos, permitindo que usuários se infiltrem em sistemas ao fazerem o upload desses arquivos. Além disso, utilizando tecnologias especializadas de IA, hackers podem simular sistemas e explorar vulnerabilidades de segurança. A IA pode criar inúmeros aplicativos com imagens e nomes falsos, imitando os aplicativos e sites do Ministério da Segurança Pública, induzindo cidadãos a baixar, instalar e fornecer informações como seus números de identidade nacional e senhas de acesso. "A IA também desenvolverá malwares híbridos, combinando elementos de diversas famílias de malware, com mecanismos de evasão de segurança mais sofisticados e a capacidade de modificar automaticamente o código-fonte", alertou o Tenente-Coronel Nguyen Anh Tuan.
Fonte: https://nld.com.vn/toi-pham-mang-co-them-bi-kip-tu-ai-196240601195415035.htm
Comentário (0)