Não deixe que a IA ameace a sobrevivência da humanidade

Os "padrinhos da IA", vencedores do prêmio VinFuture 2024, acreditam que os cientistas precisam garantir que os cenários de IA não ameacem a sobrevivência da humanidade.

Hoje, 7 de dezembro, os vencedores do Prêmio VinFuture 2024 interagiram com estudantes e jovens cientistas da Universidade VinUni sobre pesquisas científicas e as perspectivas futuras das áreas em que atuam. Aqui, os vencedores do prêmio principal, cientistas excepcionais cujos trabalhos inovadores lançaram as bases para a revolução da IA ​​atual, falaram sobre os incríveis avanços da IA.

Professor Yann LeCun (centro) e Professor Yoshua Bengio (capa à esquerda) na sessão de intercâmbio

"É como se tivéssemos pulado 10 anos no futuro."

Sem ter vindo ao Vietnã para receber o prêmio, o professor Geoffrey Hinton, da Universidade de Toronto, Canadá, participou da videochamada . Ele, o professor Yann LeCun e o professor Yoshua Bengio receberam o Prêmio Turing (considerado o Prêmio Nobel na área de ciência da computação) em 2018 e foram chamados de "padrinhos da IA" pela mídia internacional. Agora, os três continuam sendo homenageados pelo VinFuture 2024 na premiação principal, juntamente com outros dois cientistas, o professor Fei Fei Li (EUA) e o Sr. Jensen Huang (CEO da NVIDIA).

Segundo o Professor Hinton, o recente boom da IA ​​é resultado de três fatores. O primeiro é a pesquisa para desenvolver métodos mais eficientes de aprendizado de redes neurais, algo que ele, o Professor Yoshua, o Professor Yann e muitos outros têm feito. Há também o poder de computação extremamente rápido das unidades de processamento gráfico (GPUs) e a enorme quantidade de dados que podemos coletar.

O professor Geoffrey Hinton compartilha por vídeo

“Um grande aspecto deste prêmio (VinFuture 2024) é o reconhecimento do trabalho do Sr. Jensen Huang como pioneiro na criação de placas de GPU úteis para IA. A combinação da placa de GPU de Jensen Huang com os conjuntos de dados do Professor Fei Fei Li desempenhou um papel importante no desenvolvimento moderno da IA. É ótimo que o trabalho deles seja reconhecido juntamente com o daqueles que trabalham em algoritmos de redes neurais”, disse o Professor Hinton.

“Descobrimos que, quando usamos GPUs para treinar redes neurais, elas eram 30 vezes mais rápidas. Isso foi um salto quântico. Era como se a velocidade da computação estivesse 10 anos à frente de seu tempo. De repente, estávamos 10 anos à frente do futuro em velocidade de computação. Isso foi uma mudança radical para a IA, foi incrível!”, compartilhou o Professor Hinton.

Os cientistas ainda estão trabalhando para entender melhor as conexões em redes neurais. Isso ajudará os cientistas a criar inteligência artificial mais próxima da inteligência humana, capaz até de explicar a intuição. As abordagens lógicas tradicionais jamais conseguirão fazer isso.

"Estou começando a ficar com medo da IA"

O professor Hinton afirmou que as grandes redes neurais atuais têm intuição semelhante à dos humanos. Desde o ano passado, ele começou a se preocupar com a possibilidade de a IA levar apenas de 5 a 20 anos para se tornar tão inteligente quanto os humanos. "Foi aí que comecei a me preocupar com a IA. Interromper o desenvolvimento não é uma opção. Portanto, a única opção é tentar descobrir como garantir a segurança quando ela se tornar mais inteligente do que nós", compartilhou o professor Hinton.

“Mas não acredito que o fim do mundo seja inevitável”, afirma o Professor Hinton. “Contudo, as possibilidades não podem ser ignoradas e precisamos trabalhar arduamente para evitá-lo. Esperamos que os alunos mais talentosos optem por estudar segurança em IA, abordando uma ampla gama de ameaças, desde ameaças de longo prazo, como a invasão da IA, até ameaças de curto prazo, como o crime cibernético.”

Professor Yoshua Bengio e Professor Yann LeCun

O professor Yann Lecun disse que também está preocupado com o risco de a IA dominar os humanos, mesmo sendo tão inteligente quanto eles. No entanto, a resposta atual ainda não é. "Podemos perder jogando xadrez com um brinquedinho que vale 30 euros. Isso é perigoso? A resposta é não. A IA só se torna perigosa quando criamos motivação (para controlar os humanos) para a IA. Mas, no momento, a IA só tem conhecimento, não motivação", disse o professor Yann.

Segundo o Professor Yann, criar uma IA que sirva ativamente aos humanos é apenas um problema técnico. Como a IA é inteligente, pensar que ela dominará os humanos é um preconceito, pois a realidade mostra que na sociedade houve muitas pessoas inteligentes, mas elas não dominaram o mundo ! A IA ainda é uma ferramenta, o problema está nos humanos, não na IA.

Segundo o Professor Yoshua Bengio, não podemos ser subjetivos; um pequeno problema pode afetar a sobrevivência da humanidade. Os humanos podem motivar as máquinas. Por exemplo, se alguém quiser transformar uma máquina em um humano, fazendo com que ela pareça ter a necessidade de "sobreviver", queremos desligá-la, mas ela se recusa a desligar. "É claro que precisamos garantir que esse cenário não aconteça", disse o Professor Bengio.

Fonte: https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm