Não deixe que a IA ameace a sobrevivência da humanidade.

Os "padrinhos da IA", vencedores do prêmio VinFuture 2024, acreditam que os cientistas precisam garantir que os cenários de IA não ameacem a sobrevivência da humanidade.

Hoje, 7 de dezembro, os vencedores do Prêmio VinFuture 2024 interagiram com estudantes e jovens cientistas da Universidade VinUni sobre pesquisa científica e as perspectivas futuras das áreas em que atuam. Os laureados com o prêmio principal, cientistas de destaque cujos trabalhos inovadores lançaram as bases para a atual revolução da IA, falaram sobre os incríveis avanços da inteligência artificial.

O professor Yann LeCun (ao centro) e o professor Yoshua Bengio (à esquerda na capa) durante a sessão de intercâmbio.

"Tivemos a sensação de ter dado um salto de 10 anos para o futuro."

O Professor Geoffrey Hinton, da Universidade de Toronto, Canadá, que não compareceu ao Vietnã para receber o prêmio pessoalmente, participou da troca de mensagens por vídeo . Ele, juntamente com o Professor Yann LeCun e o Professor Yoshua Bengio, recebeu o Prêmio Turing (considerado o Prêmio Nobel na área da ciência da computação) em 2018 e foi apelidado de "padrinhos da IA" pela mídia internacional. Agora, os três são homenageados pelo VinFuture 2024 com o prêmio principal, juntamente com outros dois cientistas: a Professora Fei Fei Li (EUA) e o Sr. Jensen Huang (CEO da NVIDIA).

Segundo o Professor Hinton, o recente boom na IA é resultado de três fatores. O primeiro é a pesquisa para desenvolver métodos mais eficientes para o aprendizado de redes neurais, trabalho que ele, o Professor Yoshua, o Professor Yann e muitos outros têm realizado. Em seguida, temos o poder de processamento extremamente rápido das unidades de processamento gráfico (GPUs) e a enorme quantidade de dados que podemos coletar.

O professor Geoffrey Hinton compartilha informações por meio de vídeo.

“Um grande aspecto deste prêmio (VinFuture 2024) é o reconhecimento do trabalho pioneiro do Sr. Jensen Huang na criação de placas de GPU úteis para IA. A combinação da placa de GPU de Jensen Huang com os conjuntos de dados da Professora Fei Fei Li desempenhou um papel importante no desenvolvimento moderno da IA. É ótimo que o trabalho deles seja reconhecido ao lado do trabalho daqueles que estão desenvolvendo algoritmos de redes neurais”, disse o Professor Hinton.

“Descobrimos que, ao usar GPUs para treinar redes neurais, elas eram 30 vezes mais rápidas. Isso foi um salto quântico. Era como se a velocidade de computação estivesse 10 anos à frente do seu tempo. De repente, estávamos 10 anos à frente do futuro em termos de velocidade de computação. Isso mudou completamente o jogo para a IA, foi incrível!”, compartilhou o Professor Hinton.

Os cientistas ainda estão trabalhando para entender melhor as conexões nas redes neurais. Isso os ajudará a criar inteligência artificial mais semelhante à inteligência humana, capaz até mesmo de explicar a intuição. As abordagens lógicas tradicionais jamais conseguirão fazer isso.

"Estou começando a ficar com medo da IA"

O professor Hinton afirmou que as grandes redes neurais atuais possuem intuição semelhante à dos humanos. Desde o ano passado, ele começou a se preocupar com a possibilidade de a IA se tornar tão inteligente quanto os humanos em apenas 5 a 20 anos. "Foi aí que comecei a me preocupar com a IA. Interromper o desenvolvimento não é uma opção. Portanto, a única alternativa é tentar descobrir como garantir a segurança quando ela se tornar mais inteligente do que nós", compartilhou o professor Hinton.

“Mas não acho que o fim do mundo seja inevitável”, diz o professor Hinton. “No entanto, as possibilidades não podem ser ignoradas e precisamos trabalhar arduamente para evitá-lo. Esperamos que os alunos mais talentosos optem por estudar segurança da IA, abordando uma ampla gama de ameaças, desde ameaças de longo prazo, como a dominação da IA, até ameaças de curto prazo, como o cibercrime.”

Professor Yoshua Bengio e Professor Yann LeCun

O professor Yann LeCun afirmou estar preocupado com o risco de a IA dominar os humanos quando atingir o mesmo nível de inteligência humana. No entanto, a resposta atual é que ainda não há perigo. "Podemos perder uma partida de xadrez com um pequeno brinquedo de 30 euros. Isso é perigoso? A resposta é não. A IA só se torna perigosa quando criamos motivação (para controlar os humanos) para ela. Mas, neste momento, a IA só possui conhecimento, não motivação", disse o professor Yann.

Segundo o Professor Yann, criar uma IA que sirva ativamente aos humanos é apenas um problema técnico. Como a IA é inteligente, pensar que ela irá dominar os humanos é um preconceito, pois a realidade mostra que a sociedade já teve muitas pessoas inteligentes, mas elas não dominaram o mundo ! A IA ainda é uma ferramenta; o problema está nos humanos, não na IA.

Segundo o professor Yoshua Bengio, não podemos ser subjetivos, pois um pequeno problema pode afetar a sobrevivência da humanidade. Os humanos podem inserir motivações nas máquinas. Por exemplo, alguém quer transformar uma máquina em um humano, fazendo com que ela pareça ter a necessidade de "sobreviver", e então queremos desligá-la, mas ela se recusa a desligar. "É claro que precisamos garantir que esse cenário não aconteça", disse o professor Bengio.

Fonte: https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm