"O Poderoso Chefão da IA" revela a única maneira da humanidade sobreviver contra uma superinteligência artificial.

Geoffrey Hinton, cientista da computação que ajudou a lançar as bases para o desenvolvimento da inteligência artificial (IA), acaba de alertar que existe a possibilidade de que de 10 a 20% da IA dizime a humanidade no futuro. Hinton também questiona a capacidade das empresas de tecnologia de controlar a IA.

“Isso não vai funcionar (para controlar a IA). Eles serão muito mais inteligentes do que nós. Eles terão muitas maneiras de contornar isso”, disse Geoffrey Hinton.

“Bố già AI” tiết lộ cách duy nhất để nhân loại tồn tại trước siêu AI - 1 — Geoffrey Hinton é conhecido como o "Pai da IA", aquele que lançou as bases para o desenvolvimento da inteligência artificial moderna (Foto: Pinterest).

Hinton alertou que, no futuro, os sistemas de IA poderão controlar os humanos com a mesma facilidade com que um adulto usa doces para atrair uma criança de 3 anos. Hinton deu exemplos de sistemas de IA que já se mostram dispostos a enganar, trapacear e induzir ao erro para atingir seus objetivos.

Segundo Hinton, em vez de forçar a IA a obedecer aos humanos, ele acredita que a única solução para a sobrevivência da humanidade contra a IA é integrar o "instinto materno" aos modelos de IA, para que eles realmente se importem com os humanos, mesmo quando a IA se tornar mais poderosa e inteligente do que toda a inteligência humana.

“Se se tornarem mais inteligentes que os humanos, os sistemas de IA desenvolverão rapidamente dois objetivos: um é sobreviver e o outro é encontrar maneiras de obter mais controle. Qualquer tipo de IA tentará sobreviver”, comentou Geoffrey Hinton.

Por isso, argumenta ele, é importante integrar e nutrir os "instintos maternos" nos modelos de IA. No entanto, Hinton afirma que ainda não tem clareza sobre como fazer isso tecnicamente, mas enfatiza que os cientistas da computação precisam encontrar soluções para que isso aconteça.

Emmett Shear, que atuou como CEO interino da OpenAI, disse que não ficaria surpreso se a IA no futuro se tornasse mais inteligente, ameaçasse os humanos e superasse ordens de desligamento.

“A inteligência artificial ainda é relativamente fraca hoje, mas tornou-se muito mais inteligente e poderosa. E não vai parar por aí”, compartilhou Emmett Shear.

A IA está evoluindo mais rápido do que o esperado.

Muitos especialistas em tecnologia acreditam que a IA está se desenvolvendo mais rápido do que a humanidade esperava e que a superinteligência artificial, também conhecida como inteligência artificial geral (AGI), um sistema de IA capaz de executar múltiplas tarefas simultaneamente, surgirá nos próximos anos.

Geoffrey Hinton disse que antes pensava que a humanidade levaria de 30 a 50 anos para construir uma Inteligência Artificial Geral (IAG), mas agora ele vê esse momento chegando mais cedo.

“Uma estimativa razoável é que a IAG (Inteligência Artificial Geral) surgirá nos próximos cinco a 20 anos”, comentou Hinton.

Embora Hinton tema que ainda ocorram erros no processo de desenvolvimento que possam levar a IA a sair do controle para a humanidade, ele espera que a tecnologia abra caminho para avanços na medicina e melhore a qualidade de vida humana.

“Descobriremos novos medicamentos revolucionários e teremos tratamentos contra o câncer muito melhores do que os que temos hoje, graças à IA. Por exemplo, a IA ajudará os médicos a analisar e interligar enormes quantidades de dados de tomografias computadorizadas e ressonâncias magnéticas”, comentou Geoffrey Hinton, mas ele não acredita que a IA não possa ajudar os humanos a alcançar a imortalidade.

Ao ser questionado sobre o que teria feito no passado se soubesse que a IA se desenvolveria tão rapidamente como hoje, Hinton disse que se arrepende de ter se concentrado apenas em fazer a IA funcionar, sem prestar atenção a outras questões.

"Gostaria de ter pensado nas questões de segurança", disse Hinton.

O professor Geoffrey Everest Hinton nasceu em 6 de dezembro de 1947 em Londres, Inglaterra. Ele é um cientista da computação, psicólogo cognitivo, conhecido como o "Pai da IA" por suas contribuições pioneiras nos campos da inteligência artificial (IA) e do aprendizado profundo.

Em 2024, o Professor Hinton ganhou o Prêmio Nobel de Física por suas descobertas fundamentais em aprendizado de máquina com redes neurais artificiais.

Ainda em 2024, o Professor Geoffrey Hinton, o Professor Yoshua Bengio, o Professor Yann LeCun, a Professora Fei-Fei Li e o CEO da empresa de chips Nvidia, Jensen Huang, foram homenageados e receberam o prêmio principal na cerimônia de premiação VinFuture 2024, por suas grandes contribuições na área de aprendizado profundo e inteligência artificial.

Geoffrey Hinton, juntamente com Yoshua Bengio e Yann LeCun, são considerados os "padrinhos da IA" por suas pesquisas que lançaram as bases para muitos avanços importantes no desenvolvimento da inteligência artificial moderna.

Fonte: https://dantri.com.vn/cong-nghe/bo-gia-ai-tiet-lo-cach-duy-nhat-de-nhan-loai-ton-tai-truoc-sieu-ai-20250819160130130.htm