Ministro Nguyen Manh Hung: Os problemas criados pela IA podem ser maiores do que os das bombas atômicas.

Segundo o Ministro Nguyen Manh Hung, o poder da IA ​​pode ser maior que o da energia nuclear, portanto os problemas da IA ​​podem ser ainda maiores que os das bombas atômicas. A IA e seus problemas sempre existirão, não podem ser eliminados, então devemos conviver e administrá-la com sabedoria.

O Sr. Nguyen Manh Hung, Ministro da Ciência e Tecnologia , discursando na conferência - Foto: NGUYEN BAO

Os comentários foram feitos pelo Ministro da Ciência e Tecnologia na conferência científica "Poder ilimitado e desafios imprevisíveis da inteligência artificial (IA) - impactos negativos e respostas políticas", que ocorreu na manhã de 15 de setembro.

A IA apresenta desafios sem precedentes.

No workshop, os palestrantes destacaram a natureza ambígua da IA, avaliações abrangentes de seu impacto na economia , educação, saúde, cultura, desenvolvimento sustentável, defesa nacional e governança da segurança, etc.

Segundo o General Luong Tam Quang, Ministro da Segurança Pública, na quarta revolução industrial, a inteligência artificial (IA) é considerada uma das tecnologias-chave, um fator que pode levar a mudanças na ordem global no futuro.

Com a capacidade de promover o crescimento econômico, otimizar a produção, melhorar a assistência médica, inovar na educação e aprimorar a capacidade de governança social, a IA ajuda os países a economizar custos, aumentar a eficiência, expandir o conhecimento e é um recurso, uma força e um motor para afirmar a posição nacional na era digital.

Além do seu potencial, a IA também apresenta desafios sem precedentes em termos de lacunas legais, riscos éticos, abuso da tecnologia para crimes cibernéticos, guerra da informação, violações da privacidade de dados e, especialmente, o risco de impacto na defesa e segurança nacional.

O General Luong Tam Quang, Ministro da Segurança Pública, discursa na conferência - Foto: NGUYEN BAO

O professor Nguyen Xuan Thang, diretor da Academia Nacional de Política Ho Chi Minh, afirmou que, além de seu grande potencial, a IA apresenta muitos riscos sérios e imprevisíveis.

Uma preocupação particular reside na potencial perda de controle sobre sistemas de IA de autoaprendizagem e auto-adaptação, especialmente à medida que evoluem para além da compreensão e supervisão humanas.

Segundo o Sr. Thang, a IA tem causado impactos negativos no mercado de trabalho, uma vez que muitas ocupações tradicionais estão sendo substituídas, levando a um aumento do risco de desemprego, especialmente para trabalhadores não qualificados ou sem habilidades digitais.

Em particular, se os dados de treinamento forem tendenciosos, a IA reproduzirá e amplificará os preconceitos sociais, levando a decisões tendenciosas e injustas.

Além disso, a IA também pode ser explorada para atividades perigosas, como fraudes online, disseminação de notícias falsas, vozes e imagens falsas (deepfake), causando confusão pública e afetando a segurança e a ordem social; sendo explorada para conduzir ataques cibernéticos sofisticados para infiltrar e destruir sistemas de informação, infraestrutura importante ou roubar dados e segredos nacionais.

"A corrida entre os países para desenvolver IA acarreta o risco de criar desequilíbrios estratégicos e promover tensões militares, especialmente na ausência de marcos jurídicos internacionais para controlar o uso da IA ​​na defesa e segurança."

Portanto, a IA é tanto uma ferramenta para aprimorar as capacidades de defesa e segurança quanto uma fonte potencial de riscos para a paz e a segurança mundiais, se não for usada de forma responsável e transparente”, disse o Sr. Thang.

Prof. Dr. Nguyen Xuan Thang - Diretor da Academia Nacional de Política de Ho Chi Minh - discursando na conferência - Foto: NGUYEN BAO

Problemas de IA que podem ser resolvidos pela própria IA

Na conferência, o Ministro da Ciência e Tecnologia, Sr. Nguyen Manh Hung, afirmou que o Vietnã lançou sua primeira estratégia de IA em 2021. No entanto, a IA é uma área em rápida evolução, e haverá uma atualização da estratégia nacional de IA e da Lei de IA até o final deste ano.

Segundo o Ministro Nguyen Manh Hung, isto não é apenas um quadro legal, mas também uma declaração de visão nacional: a IA deve tornar-se a infraestrutura intelectual do país, a serviço do povo, desenvolvendo-se de forma sustentável e aumentando a competitividade nacional.

A IA abre grandes oportunidades, mas também levanta muitas questões relacionadas à ética, ao emprego e à confiança social. Portanto, o Vietnã precisa desenvolver uma IA que seja rápida, segura e humana.

A IA existe para os humanos, não para substituí-los, mas para servi-los. A IA é uma assistente para os humanos. A IA é uma ferramenta poderosa, mas os humanos são os tomadores de decisão; deixe que a IA apoie, e não substitua, o pensamento, os valores e as responsabilidades humanas.

O Ministro Nguyen Manh Hung comentou: "O poder da IA ​​pode ser maior que o da energia nuclear e, portanto, seus problemas podem ser maiores que os das bombas atômicas. Mas a IA e seus problemas são gêmeos, como yin e yang, como os dois lados de uma moeda, dependendo um do outro para coexistir e se desenvolver, e se transformam mutuamente."

Problemas de IA podem ser resolvidos pela própria IA, por exemplo, treinando recursos humanos de IA com a própria tecnologia de IA, detectando violações éticas de IA também com a própria IA.

A IA cresce com os problemas que cria. Sem problemas de IA, não haverá crescimento da IA. IA e problemas de IA são um grande "e". A IA e seus problemas sempre existirão; não podemos eliminá-los, mas devemos conviver com eles e gerenciá-los com sabedoria.

Será publicado um código nacional de ética em IA.

Segundo o Ministro Nguyen Manh Hung, um código nacional de ética em IA será publicado em breve, em consonância com os padrões internacionais, mas adaptado à prática vietnamita, e a Lei de IA e a estratégia de IA serão construídas de acordo com os seguintes pontos de vista fundamentais:

Primeiro, gerencie por nível de risco.

Em segundo lugar, transparência e responsabilidade.

Terceiro, coloque as pessoas no centro.

Quarto, incentivar o desenvolvimento nacional de IA e a autonomia da IA.

Quinto, considere a IA como uma força motriz para um crescimento rápido e sustentável.

Sexto, a proteção da soberania digital. Dados, infraestrutura e tecnologia de IA são os três pilares estratégicos da soberania digital.

Voltar ao assunto

NGUYEN BAO

Fonte: https://tuoitre.vn/bo-truong-nguyen-manh-hung-van-de-cua-ai-tao-ra-co-the-lon-hon-bom-nguyen-tu-20250915103427851.htm