Geoffrey Hinton, cientista da computação que ajudou a lançar as bases para o desenvolvimento da inteligência artificial (IA), acaba de alertar que existe a possibilidade de que 10 a 20% da IA acabe com a humanidade no futuro. Hinton também duvida da capacidade das empresas de tecnologia de controlar a IA.
"Isso não vai funcionar (no controle da IA). Eles serão muito mais inteligentes do que nós. Eles terão muitas maneiras de contornar isso", disse Geoffrey Hinton.
Geoffrey Hinton é conhecido como o "Padrinho da IA", aquele que lançou as bases para o desenvolvimento da inteligência artificial moderna (Foto: Pinterest).
Hinton alertou que, no futuro, os sistemas de IA poderão controlar humanos com a mesma facilidade com que um adulto usa doces para atrair uma criança de 3 anos. Hinton deu exemplos de sistemas de IA já dispostos a enganar, trapacear e iludir para atingir seus objetivos.
De acordo com Hinton, em vez de forçar a IA a obedecer aos humanos, ele acredita que a única solução para a humanidade sobreviver contra a IA é integrar o “instinto maternal” aos modelos de IA, para que eles realmente se importem com os humanos, mesmo quando a IA se tornou mais poderosa e inteligente do que toda a inteligência humana.
“Se se tornarem mais inteligentes que os humanos, os sistemas de IA desenvolverão rapidamente dois objetivos: um é sobreviver e o outro é encontrar maneiras de obter mais controle. Qualquer tipo de IA tentará sobreviver”, comentou Geoffrey Hinton.
É por isso que é importante integrar e nutrir os "instintos maternos" nos modelos de IA, argumenta ele. No entanto, Hinton afirma que ainda não tem clareza sobre como fazer isso tecnicamente, mas enfatiza que os cientistas da computação precisam encontrar soluções para que isso aconteça.
Emmett Shear, que atuou como CEO interino da OpenAI, disse que não ficaria surpreso se a IA no futuro se tornasse mais inteligente, ameaçasse os humanos e superasse as ordens de desligamento.
“A IA hoje ainda é relativamente fraca, mas se tornou muito mais inteligente e poderosa. Ela não vai parar”, compartilhou Emmett Shear.
A IA está evoluindo mais rápido do que o esperado
Muitos especialistas em tecnologia acreditam que a IA está se desenvolvendo mais rápido do que a humanidade esperava e que a superinteligência artificial, também conhecida como inteligência artificial geral (AGI), um sistema de IA que pode executar várias tarefas simultaneamente, aparecerá nos próximos anos.
Geoffrey Hinton disse que já pensou que a humanidade levaria de 30 a 50 anos para desenvolver a IAG, mas agora ele vê esse momento chegando mais cedo.
“Um palpite razoável é que a AGI aparecerá nos próximos cinco a 20 anos”, comentou Hinton.
Embora Hinton se preocupe que ainda haverá erros no processo de desenvolvimento que podem fazer com que a IA saia do controle para a humanidade, ele espera que a tecnologia abra caminho para avanços na medicina e melhore a qualidade de vida humana.
“Encontraremos novos medicamentos revolucionários e teremos tratamentos contra o câncer muito melhores do que os que temos hoje, graças à IA. Por exemplo, a IA ajudará os médicos a analisar e vincular enormes quantidades de dados de tomografias computadorizadas e ressonâncias magnéticas”, comentou Geoffrey Hinton, mas ele não acredita que a IA não possa ajudar os humanos a alcançar a imortalidade.
Quando perguntado sobre o que teria feito no passado se soubesse que a IA se desenvolveria tão rapidamente quanto hoje, Hinton disse que se arrepende de ter focado apenas em fazer a IA funcionar sem prestar atenção a outras questões.
“Gostaria de ter pensado em questões de segurança”, disse Hinton.
O professor Geoffrey Everest Hinton nasceu em 6 de dezembro de 1947 em Londres, Inglaterra. Ele é um cientista da computação e psicólogo cognitivo, conhecido como o "Padrinho da IA" por suas contribuições pioneiras nas áreas de inteligência artificial (IA) e aprendizado profundo.
Em 2024, o professor Hinton ganhou o Prêmio Nobel de Física por suas descobertas fundamentais em aprendizado de máquina com redes neurais artificiais.
Também em 2024, o professor Geoffrey Hinton, o professor Yoshua Bengio, o professor Yann LeCun, o professor Fei-Fei Li e o CEO da empresa de chips Nvidia, Jensen Huang, foram homenageados e receberam o prêmio principal na cerimônia de premiação do VinFuture 2024, por suas grandes contribuições no campo do aprendizado profundo e da inteligência artificial.
Geoffrey Hinton, juntamente com Yoshua Bengio e Yann LeCun, são considerados os “padrinhos da IA” por suas pesquisas que lançaram as bases para muitos avanços importantes no desenvolvimento da inteligência artificial moderna.
Fonte: https://dantri.com.vn/cong-nghe/bo-gia-ai-tiet-lo-cach-duy-nhat-de-nhan-loai-ton-tai-truoc-sieu-ai-20250819160130130.htm
Comentário (0)