Impedir que a tecnologia ultrapasse os limites éticos.

O uso crescente da IA ​​para fins antiéticos criou uma necessidade urgente de controle da tecnologia e maior responsabilização do usuário.

Com seu rápido avanço, a inteligência artificial (IA) está revolucionando diversas áreas – da saúde, educação e negócios ao cotidiano. No entanto, as desvantagens dessa tecnologia representam desafios significativos para o gerenciamento e controle da informação no ciberespaço.

Inundado por notícias falsas geradas por IA.

Notícias falsas geradas por IA são disseminadas em plataformas de mídia social principalmente para obter visualizações, curtidas e engajamento para vendas online ou para lucrar com a plataforma.

Aqueles que criam notícias falsas frequentemente se aproveitam de eventos atuais que atraem a atenção do público. Por exemplo, após o grave acidente de trânsito ocorrido em 17 de setembro no mercado de Tan Long, na comuna de Lao Bao, província de Quang Tri , que resultou em 12 vítimas fatais, algumas imagens comoventes apareceram nas redes sociais, levando muitos internautas às lágrimas. Ao identificar essas imagens como sendo criadas por inteligência artificial, a polícia da comuna de Lao Bao emitiu um alerta sobre a disseminação dessas imagens falsas e enganosas. Esse comportamento não apenas espalha informações falsas, como também dificulta as investigações.

Da mesma forma, aproveitando-se da atenção pública em torno do naufrágio do barco turístico Green Bay 58 na Baía de Ha Long, província de Quang Ninh, em 19 de julho, que matou dezenas de pessoas, muitas contas de mídias sociais publicaram imagens e histórias comoventes sobre as vítimas. No entanto, uma parcela significativa desse conteúdo era falsa, criada com o uso de inteligência artificial para manipular emoções e atrair a interação dos usuários das redes sociais. Notavelmente, o uso generalizado de imagens falsas com apelo exagerado à compaixão pode traumatizar ainda mais as famílias das vítimas.

Com a tecnologia de IA em constante aprimoramento, bastam alguns minutos e comandos simples para criar um vídeo com conteúdo envolvente que corresponda perfeitamente às intenções do usuário. Entre essas plataformas, as de IA de última geração, como KlingAI, Veo 3 e Sora, são extremamente populares entre usuários do mundo todo, inclusive do Vietnã.

Além disso, a tecnologia deepfake – uma combinação de aprendizado profundo e falsificação – também é uma grande preocupação global, pois pode ser usada para criar imagens, sons ou vídeos que parecem tão reais que são muito difíceis de detectar como falsos. Como resultado, inúmeros golpes relacionados a essa tecnologia ocorreram tanto no Vietnã quanto em todo o mundo.

O Tenente-General Nguyen Minh Chinh, Vice-Presidente Permanente da Associação Nacional de Segurança Cibernética, observou uma tendência crescente de abuso da IA ​​para fins ilegais. Especificamente, a IA como serviço (ferramentas e aplicações fornecidas por IA) está sendo explorada por cibercriminosos para criar malware, falsificar vozes, rostos e textos... para fraudes, ataques cibernéticos, invasão de sistemas de dados e até mesmo para desestabilizar a segurança e prejudicar a reputação de organizações, empresas e líderes.

Segundo Tran Ngoc Anh, Diretor Técnico da Hoa Binh Cyber ​​​​Space Company Limited (CyPeace), um dos riscos para os usuários de IA é o potencial de receberem informações errôneas geradas pela própria ferramenta. Além disso, existem diversos outros problemas, como o vazamento de informações confidenciais e dados pessoais.

Imagens falsas estão sendo disseminadas online para "fazer os espectadores chorarem", ganhando curtidas e aumentando a interação (Captura de tela).

Aumentar a responsabilidade do usuário

Antes que medidas tecnológicas e legais sejam implementadas para controlar rigorosamente o desenvolvimento e o uso da IA, os usuários precisam usar essa tecnologia de forma responsável e proativa.

O especialista em cibersegurança Vu Ngoc Son, chefe do Comitê de Tecnologia da Associação Nacional de Cibersegurança, destacou que os humanos são os sujeitos que exploram e utilizam a IA, portanto, tanto os aspectos positivos quanto os negativos da IA ​​estão intimamente ligados aos humanos. Se os usuários forem habilidosos e a aplicarem para bons fins, a tecnologia aproveitará seus pontos fortes em benefício deles. Por outro lado, se os usuários de IA não a compreenderem ou a explorarem para fins ilegais, isso poderá causar sérias consequências. "Para usar e explorar a IA de forma eficaz, é necessário focar na formação de uma equipe e de processos. A IA só revela seu valor quando colocada nas mãos de quem sabe como dominá-la", afirmou o especialista em cibersegurança.

Considerando os perigos da tecnologia deepfake – uma das principais ferramentas que facilitam as fraudes cibernéticas atuais – o Ministério das Finanças enfatizou, durante a elaboração da Lei de Investimento e Negócios, que o setor de tecnologia deepfake precisa ser regulamentado como um setor de negócios condicional para evitar o uso indevido da tecnologia, que causa perturbações na informação e fraudes. Segundo o Ministério das Finanças, o setor de tecnologia deepfake é atualmente um dos novos campos com riscos potenciais complexos para a segurança e a ordem, e ainda não está regulamentado como um setor de negócios condicional.

Segundo o advogado Tran Anh Tuan (Ordem dos Advogados de Hanói), usar inteligência artificial (IA) para criar conteúdo sem permissão, especialmente para criar informações falsas, fabricadas ou fraudulentas, pode violar as disposições do Código Civil. Os infratores podem estar sujeitos a sanções administrativas ou indenização por danos. Em casos que causem consequências graves, a responsabilidade criminal pode ser instaurada. "Os usuários precisam ser cautelosos ao acessar e usar IA, evitando absolutamente quaisquer ações que explorem a IA para obter visualizações ou curtidas; devem aumentar a responsabilidade pessoal e cumprir a lei ao usar IA e participar do ambiente online", aconselhou o advogado Tuan.

O Tenente-General Nguyen Minh Chinh enfatizou que o elemento central para o desenvolvimento sustentável da IA ​​são os recursos humanos. De pesquisadores, engenheiros e especialistas em cibersegurança a gestores e usuários, todos precisam estar plenamente capacitados em conhecimento, habilidades, ética e consciência jurídica. Segundo ele, essa equipe não é apenas responsável por construir e operar sistemas de IA, mas também a força-chave na prevenção, detecção e combate a crimes cibernéticos.

O Vietnã terá uma Lei sobre Inteligência Artificial.

Em uma recente conferência científica nacional sobre IA, o Ministro da Ciência e Tecnologia, Nguyen Manh Hung, afirmou que a IA abre grandes oportunidades, mas também levanta muitas questões relativas à ética, ao emprego e à confiança social. Portanto, o desenvolvimento da IA ​​deve ser rápido, seguro e humano.

Segundo o Ministro Nguyen Manh Hung, a IA não substitui os humanos, mas serve-os, atuando como sua assistente. A IA é uma ferramenta poderosa, mas os humanos são os tomadores de decisão; portanto, a IA deve apoiar, e não substituir, o pensamento, os valores e as responsabilidades humanas. "O Ministério da Ciência e Tecnologia publicará um código nacional de ética para IA, harmonizado com os padrões internacionais, mas adaptado à realidade vietnamita, e também desenvolverá uma lei e uma estratégia para IA", afirmou o Ministro Nguyen Manh Hung.

Fonte: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm