Impedir que a tecnologia ultrapasse os limites éticos.

O uso cada vez mais disseminado da IA ​​para fins antiéticos gerou demandas urgentes por controle da tecnologia e maior responsabilidade do usuário.

Com seu ritmo acelerado de aprimoramento, a inteligência artificial (IA) está criando uma "revolução" em diversas áreas — da saúde à educação , dos negócios ao cotidiano. No entanto, os aspectos negativos dessa tecnologia representam desafios significativos para a gestão e o controle da informação no ciberespaço.

Inundado por notícias falsas geradas por IA

Notícias falsas geradas por IA são disseminadas em plataformas de mídia social principalmente para atrair visualizações, curtidas e aumentar as interações, visando vendas online ou lucro.

Pessoas que criam notícias falsas frequentemente "seguem" assuntos atuais de grande interesse público. Por exemplo, após um grave acidente de trânsito em 17 de setembro no mercado de Tan Long, comuna de Lao Bao, província de Quang Tri , que deixou 12 feridos e mortos, diversas imagens comoventes apareceram nas redes sociais, levando muitos internautas às lágrimas. Ao constatar que essas imagens foram criadas por inteligência artificial, a polícia da comuna de Lao Bao emitiu um alerta sobre a disseminação de imagens falsas que causam desinformação. Essa prática não só dissemina informações falsas, como também prejudica as investigações.

Da mesma forma, aproveitando-se da atenção pública em torno do naufrágio do barco turístico Blue Bay 58 na Baía de Ha Long, província de Quang Ninh, em 19 de julho, que matou dezenas de pessoas, muitas contas de mídias sociais publicaram imagens e histórias comoventes sobre as vítimas. No entanto, grande parte desse conteúdo era falso, criado com inteligência artificial para "atingir" as emoções e atrair a interação dos usuários das redes sociais. Notavelmente, a disseminação de imagens falsas com conteúdo exageradamente comovente pode causar ainda mais trauma emocional às famílias das vítimas.

Com a tecnologia de IA sendo aprimorada a cada dia, basta alguns minutos e comandos simples para criar um vídeo com conteúdo atraente e que atenda às expectativas do usuário. Em particular, plataformas de IA de nova geração, como KlingAI, Veo 3 e Sora, são muito populares entre usuários do mundo todo, inclusive no Vietnã.

Além disso, a tecnologia deepfake — uma combinação de aprendizado profundo e falsificação — também tem causado grande preocupação globalmente, pois pode ser usada para criar imagens, sons ou vídeos realistas que são muito difíceis de detectar como falsos. Como resultado, uma série de golpes relacionados a essa tecnologia ocorreram tanto no Vietnã quanto no mundo.

O Tenente-General Nguyen Minh Chinh, Vice-Presidente Permanente da Associação Nacional de Segurança Cibernética, observou que existe uma tendência de abuso da IA ​​para fins ilegais. Em particular, a IA como serviço (serviços que fornecem ferramentas e aplicações de IA - PV) está sendo explorada por cibercriminosos para criar códigos maliciosos, vozes, rostos e textos falsos, com o objetivo de cometer fraudes, atacar redes, infiltrar-se em sistemas de dados, causar instabilidade de segurança e destruir a reputação de organizações, empresas e líderes.

Segundo Tran Ngoc Anh, Diretor Técnico da Cyber ​​Peace Company Limited (CyPeace), um dos riscos para os usuários de IA é receberem informações falsas geradas pela própria ferramenta. Além disso, existem outros problemas, como a divulgação de informações confidenciais, dados pessoais...

Imagens falsas são disseminadas na internet para "arrancar lágrimas" dos espectadores, atraindo curtidas e aumentando as interações (Captura de tela).

Aumentar a responsabilidade do usuário

Antes que existam medidas tecnológicas e legais para controlar rigorosamente o desenvolvimento e o uso da IA, os usuários precisam usar essa tecnologia de forma proativa e responsável.

O especialista em cibersegurança Vu Ngoc Son, chefe do Departamento de Tecnologia da Associação Nacional de Cibersegurança, destacou que os humanos são os sujeitos que exploram e utilizam a IA, portanto, os aspectos positivos e negativos da IA ​​estão intimamente ligados aos seres humanos. Se os usuários forem qualificados e a aplicarem para fins benéficos, a tecnologia promoverá seus pontos fortes. Por outro lado, se os usuários de IA não a compreenderem ou a utilizarem para fins ilegais, isso poderá causar sérias consequências. "Para usar e explorar a IA de forma eficaz, é necessário focar na formação de equipes e processos. A IA só demonstra seu valor quando está nas mãos de quem sabe como dominá-la", afirmou o especialista em cibersegurança.

Diante do perigo dos deepfakes — a principal ferramenta para fraudes tecnológicas na atualidade —, durante a elaboração da Lei de Investimentos e Negócios, o Ministério das Finanças também enfatizou: o negócio da tecnologia deepfake precisa ser regulamentado como uma atividade específica para evitar o uso indevido da tecnologia, que pode causar interrupções na informação e fraudes. Segundo o Ministério das Finanças, atualmente, o negócio da tecnologia deepfake é um dos novos campos que apresenta riscos complexos à segurança e à ordem, mas ainda não é regulamentado como uma atividade específica.

Segundo o advogado Tran Anh Tuan (Ordem dos Advogados de Hanói), o uso de inteligência artificial (IA) para criar conteúdo sem autorização, especialmente informações falsas, enganosas ou fraudulentas, pode violar as disposições do Código Civil. Os infratores estarão sujeitos a sanções administrativas ou indenização por danos. Em casos graves, a responsabilidade criminal poderá ser imputada. "Os usuários precisam ter cautela ao utilizar IA, evitando a todo custo tirar proveito dela para atrair visualizações e curtidas; devem cultivar a responsabilidade pessoal e cumprir a lei ao usar IA e participar do ambiente online", recomendou o advogado Tuan.

O Tenente-General Nguyen Minh Chinh enfatizou que o fator central para o desenvolvimento sustentável da IA ​​são os recursos humanos. De pesquisadores, engenheiros e especialistas em cibersegurança a gestores e usuários, todos precisam estar plenamente capacitados em conhecimento, habilidades, ética e consciência jurídica. Segundo Chinh, essa equipe não se limita a construir e operar sistemas de IA, mas também é a força-chave na prevenção, detecção e combate a crimes cibernéticos.

O Vietnã terá uma Lei sobre Inteligência Artificial.

Em uma recente conferência científica nacional sobre IA, o Ministro da Ciência e Tecnologia, Nguyen Manh Hung, afirmou que a IA abre grandes oportunidades, mas também levanta muitas questões relativas à ética, ao emprego e à confiança social. Portanto, a IA deve ser desenvolvida de forma rápida, segura e humana.

Segundo o Ministro Nguyen Manh Hung, a IA não substitui os humanos, mas serve-os, sendo uma assistente. A IA é uma ferramenta poderosa, mas os humanos são os tomadores de decisão; portanto, que a IA apoie, e não substitua, o pensamento, os valores e as responsabilidades humanas. "O Ministério da Ciência e Tecnologia publicará um Código Nacional de Ética da IA ​​em consonância com os padrões internacionais, mas adaptado à prática vietnamita, e, simultaneamente, desenvolverá uma Lei e uma Estratégia de IA", informou o Ministro Nguyen Manh Hung.

Fonte: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm