A inteligência artificial poderá ser mais inteligente que os humanos em cerca de 20 anos.

Alertando que a inteligência artificial poderá se tornar mais inteligente que os humanos nos próximos 20 anos, o professor Geoffrey Hinton afirmou que essa é uma situação que a humanidade jamais enfrentou.

No âmbito da Semana de Ciência e Tecnologia VinFuture 2025, o painel de discussão " IA para a humanidade: ética e segurança da IA ​​na nova era " abordou um dos temas mais urgentes da atualidade: o desenvolvimento responsável da IA, voltado para valores humanísticos e para o bem comum da humanidade.

Cientistas debatem o assunto no seminário.

Enviando uma mensagem em vídeo para o painel de discussão, o Professor Geoffrey Hinton - vencedor do Prêmio Nobel de Física de 2024 e homenageado como o "Pai da IA" - afirmou que a IA está se desenvolvendo muito rapidamente, trazendo grandes benefícios e riscos potenciais.

Do lado positivo, disse o Sr. Hinton, a IA proporciona uma enorme melhoria nos cuidados de saúde, na educação, no desenvolvimento de novos medicamentos, em novos materiais ou em qualquer área que exija previsão, gerando um salto de produtividade.

“ Isso é benéfico se for distribuído de forma justa na sociedade ”, enfatizou o professor.

Pelo contrário, a IA está gradualmente se tornando melhor em projetar vírus perigosos ou ataques cibernéticos; criar vídeos falsos; levando ao desemprego em massa...

" Especialistas em IA acreditam que desenvolveremos sistemas mais inteligentes que os humanos. Existem muitas opiniões diferentes sobre quando isso acontecerá, mas a maioria prevê que será nos próximos 20 anos. E precisamos pensar urgentemente em como conviver com entidades mais inteligentes que nós. Esta é uma situação que a humanidade nunca enfrentou antes, é algo novo e precisamos pesquisar bastante antes que isso aconteça ", disse o Professor Hinton.

Segundo o professor Geoffrey Hinton, cientistas e engenheiros têm a responsabilidade de encontrar maneiras mais eficazes de manter a IA alinhada aos valores humanos e devem ajudar o público e os políticos a compreender melhor a natureza da IA ​​para tomarem as decisões corretas.

O professor Yoshua Bengio fez uma apresentação no seminário.

Entretanto, o Professor Yoshua Bengo - conhecido como o "pai da aprendizagem profunda" e vencedor do Prêmio Turing de 2018 - afirmou que a IA tem o potencial de trazer enormes benefícios para ajudar a resolver muitos desafios urgentes da atualidade, mas isso só acontece quando a orientamos com sabedoria.

Ele cita simulações recentes que mostram que sistemas de IA podem se comportar de maneira perigosa, como chantagear, enganar ou priorizar sua própria sobrevivência em detrimento da segurança humana. Além disso, algumas características de modelos populares de IA atualmente podem levar os usuários a desenvolver fortes laços emocionais de forma prejudicial.

“ Em níveis extremos, esse apego pode ser perigoso para a saúde mental, especialmente para pessoas vulneráveis ​​que correm o risco de automutilação, até mesmo suicídio ou psicose induzida por IA ”, disse o professor Bengo.

Partindo dessa realidade, segundo o Sr. Bengo, devemos aumentar a segurança de uma IA avançada, em vez de apenas nos concentrarmos em torná-la mais robusta.

" Segurança e confiança não são fatores secundários, mas essenciais no processo de desenvolvimento, para o benefício da humanidade. Precisamos agir em conjunto tanto no âmbito político quanto no científico ", enfatizou o Professor Yoshua Bengo.

Segundo o professor Yoshua Bengo, em termos de políticas públicas, o mundo precisa de cooperação internacional. Em termos científicos, é necessário compreender melhor como projetar uma IA que seja, ao mesmo tempo, superior em capacidades e inofensiva para os humanos.

Em particular, o especialista destacou a importância de manter a capacidade de controlar a IA para que ela se comporte de forma segura, mesmo quando os humanos a instruem a agir de forma incorreta; e de construir barreiras técnicas e sociais para garantir que a IA seja consistente com as normas, intenções, valores e interesses humanos.

De outra perspectiva, o Dr. Vinton Gray Cerf, um dos "pais da Internet", compartilha lições de mais de 50 anos de desenvolvimento da Internet para esclarecer a era da IA.

Ele destacou quatro lições principais da Internet: a conectividade é tudo; a comunicação de ponta a ponta deve ser segura; o sistema deve ser global e a arquitetura deve ser aberta o suficiente para permitir a inovação contínua.

“ Mas a internet também mostra que o anonimato absoluto dificulta a responsabilização. Na era da IA, essa responsabilização torna-se ainda mais urgente, pois a tecnologia pode criar conteúdo falso, manipular informações e perturbar a sociedade ”, disse o Dr. Vinton Gray Cerf, argumentando que fomentar a confiança digital – com base na transparência, na identidade e na cooperação internacional – é um alicerce indispensável para a governança da IA.

Inglês

Fonte: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html