Tenha cuidado com imagens geradas por IA quando a segurança da informação estiver ameaçada.

A tendência de criar imagens usando inteligência artificial está se espalhando, representando um risco de desinformação e afetando a segurança cibernética e a soberania nacional durante os principais feriados.

Na era do rápido desenvolvimento tecnológico, a tendência de usar inteligência artificial (IA) para criar imagens está se espalhando pelas plataformas de redes sociais, atraindo a atenção de muitos usuários, especialmente os jovens. As fotos criadas por IA são altamente criativas, servindo ao propósito de entretenimento, personalização de conteúdo e expressão de personalidade. No entanto, por trás dessa atração, existem riscos potenciais relacionados à segurança e à proteção da informação.

Entretenimento ou possível gatilho?

Segundo a polícia de Hanói , recentemente tem havido uma tendência de usar inteligência artificial (IA) para criar imagens, atraindo a atenção de muitos usuários. Embora seja principalmente para fins de entretenimento, a disseminação dessas imagens apresenta muitos riscos, afetando diretamente a segurança e a proteção da informação, especialmente durante o 80º aniversário da Revolução de Agosto e o Dia Nacional de 2 de Setembro do país.

Atualmente, os usuários podem acessar e criar imagens facilmente por meio de softwares de IA e usá-las como avatares, incorporar notícias e artigos em redes sociais como Zalo, TikTok, Facebook, etc. No entanto, se os usuários não forem cuidadosos, politicamente insensíveis e não controlarem as imagens geradas por IA, podem usar imagens imprecisas, como mapas do Vietnã sem informações sobre os arquipélagos de Hoang Sa e Truong Sa; imagens inadequadas para o povo vietnamita. O uso dessas imagens imprecisas afetará significativamente a opinião pública no ciberespaço e poderá criar uma percepção distorcida sobre a questão da soberania das fronteiras, bem como sobre a história e as tradições culturais nacionais.

Uma inteligência artificial criou uma imagem de um ao dai estampado com um mapa do Vietnã sem os arquipélagos de Hoang Sa e Truong Sa. (Foto: Polícia da cidade de Hanói)

Um usuário de mídia social em Hanói usou um software de inteligência artificial para criar uma foto de um ao dai com um mapa do Vietnã estampado e a publicou no TikTok para responder à tendência de "orgulho nacional". No entanto, a imagem criada pela IA não incluía as Ilhas Paracel e Spratly. A publicação viralizou rapidamente, atraindo milhares de visualizações e compartilhamentos, mas também enfrentou forte reação negativa da comunidade online. As autoridades intervieram, exigindo a remoção do conteúdo e alertando contra a disseminação de informações falsas relacionadas à soberania nacional.

Aviso das autoridades

Segundo o Sr. Vu Ngoc Son, Diretor Técnico da Companhia Nacional de Tecnologia de Segurança Cibernética do Vietnã (NCS), nos últimos tempos, a IA e os aplicativos baseados em IA têm se desenvolvido muito em diversas áreas da vida. O ChatGPT, em particular, é um aplicativo de fácil acesso para a maioria das pessoas, mesmo sem conhecimento técnico em TI, o que explica sua rápida popularização.

Em termos de tecnologia, o ChatGPT não representa um avanço significativo em comparação com outras tecnologias de IA existentes, mas em termos de dados, o ChatGPT tem se mostrado muito bem-sucedido, baseado em uma enorme quantidade de dados em diversas áreas, dando aos usuários a sensação de que "sabem tudo". Essa é também a principal atração do ChatGPT até o momento.

Em termos de segurança, o ChatGPT foi criado para oferecer serviços de perguntas e respostas, portanto, o maior risco seria se o conteúdo das respostas do ChatGPT fosse controlado e "envenenado" por alguém para que o ChatGPT fornecesse informações falsas. Atualmente, não há evidências de que o ChatGPT possa ser atacado, pois os dados de entrada são controlados, filtrados e até mesmo rotulados por humanos pela empresa, o que limita os riscos mencionados. No entanto, no futuro, à medida que esse serviço se expandir, a necessidade de mais dados de entrada aumentará drasticamente, e os riscos de controle de dados exigirão que os desenvolvedores adotem medidas de segurança mais rigorosas.

O software de IA pode trazer muitos benefícios, incluindo a capacidade de criar imagens atraentes e criativas, mas, se usado de forma irresponsável, pode se tornar uma "faca de dois gumes". O Departamento de Segurança Cibernética e Prevenção de Crimes de Alta Tecnologia da Polícia da Cidade de Hanói recomenda que as pessoas:

1. É terminantemente proibido criar ou utilizar imagens do mapa do Vietnã ou imagens que sejam incorretas, violem a lei ou sejam incompatíveis com as tradições, costumes e cultura vietnamitas.

2. Compartilhe regularmente informações de alerta com parentes, amigos e a comunidade para aumentar a conscientização e prevenir planos e artimanhas de forças hostis. Não permita que indivíduos se aproveitem de eventos políticos importantes do país para cometer atos ilegais.

3. Tenha cuidado ao instalar e usar aplicativos de IA não verificados para evitar o risco de seus dados pessoais serem coletados.

4. Tenha senso de responsabilidade consigo mesmo e com a comunidade ao participar de atividades nas redes sociais.

As violações serão tratadas com rigor, de acordo com as disposições legais.

Como usuário, cada indivíduo precisa ter um claro senso de responsabilidade ao participar do ciberespaço. "Seguir tendências" não deve ser confundido com ignorância ou apoio involuntário a atos ilícitos. Quanto à mídia, sua tarefa não é apenas noticiar, mas também orientar a opinião pública, contribuindo para a proteção da verdade e dos valores nacionais.

Fonte: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html