Não deixe que a IA ameace a sobrevivência da humanidade.

Os "padrinhos da IA", vencedores do prêmio VinFuture 2024, acreditam que os cientistas precisam garantir que os cenários de IA não ameacem a sobrevivência da humanidade.

Hoje, 7 de dezembro, os vencedores do Prêmio VinFuture 2024 interagiram com estudantes e jovens cientistas da Universidade VinUni sobre pesquisa científica e as perspectivas futuras das áreas em que atuam. Os laureados com o prêmio principal, cientistas de destaque cujos trabalhos inovadores lançaram as bases para a atual revolução da IA, falaram sobre os incríveis avanços da inteligência artificial.

O professor Yann LeCun (ao centro) e o professor Yoshua Bengio (à esquerda na capa) durante a sessão de intercâmbio.

"Temos a sensação de que demos um salto de 10 anos para o futuro."

O Professor Geoffrey Hinton, da Universidade de Toronto, Canadá, que não compareceu ao Vietnã para receber o prêmio pessoalmente, participou da troca de mensagens por vídeo . Ele, juntamente com o Professor Yann LeCun e o Professor Yoshua Bengio, recebeu o Prêmio Turing (considerado o Prêmio Nobel na área da ciência da computação) em 2018 e foi apelidado de "padrinhos da IA" pela mídia internacional. Agora, os três são homenageados pelo VinFuture 2024 com o prêmio principal, juntamente com outros dois cientistas: a Professora Fei Fei Li (EUA) e o Sr. Jensen Huang (CEO da NVIDIA).

Segundo o Professor Hinton, o recente crescimento exponencial na área da IA ​​resulta de três fatores. Primeiro, a pesquisa voltada para o desenvolvimento de métodos mais eficientes para o aprendizado de redes neurais, na qual ele, o Professor Yoshua, o Professor Yann e muitos outros têm trabalhado. Além disso, há o poder de processamento extremamente rápido das unidades de processamento gráfico (GPUs) e a enorme quantidade de dados que podemos coletar.

O professor Geoffrey Hinton compartilha informações por meio de vídeo.

"Um aspecto maravilhoso deste prêmio (VinFuture 2024) é o reconhecimento do trabalho pioneiro de Jensen Huang na criação de placas de GPU úteis para IA. A combinação da placa de GPU de Jensen Huang com o conjunto de dados da Professora Fei Fei Li desempenha um papel crucial no desenvolvimento moderno da IA. É ótimo que os esforços de ambos sejam reconhecidos juntamente com os daqueles que trabalham com algoritmos de redes neurais", disse o Professor Hinton.

“Descobrimos que, ao usar GPUs para treinar redes neurais, elas eram 30 vezes mais rápidas. Isso foi um salto quântico. Era como se a velocidade de computação estivesse 10 anos à frente do seu tempo. De repente, estávamos 10 anos à frente do futuro em termos de velocidade de computação. Isso mudou completamente o jogo para a IA, foi incrível!”, compartilhou o Professor Hinton.

Os cientistas ainda estão trabalhando para entender melhor as conexões nas redes neurais. Isso os ajudará a criar inteligência artificial mais semelhante à inteligência humana, capaz até mesmo de explicar a intuição. As abordagens lógicas tradicionais jamais conseguirão fazer isso.

"Estou começando a ficar com medo da IA"

O professor Hinton observa que as grandes redes neurais atuais possuem intuição semelhante à dos humanos. Desde o ano passado, ele começou a se preocupar com a possibilidade de a IA se tornar tão inteligente quanto os humanos em apenas 5 a 20 anos. "Foi aí que comecei a temer a IA. Interromper seu desenvolvimento não é uma opção. Portanto, a única opção é tentar encontrar maneiras de garantir a segurança quando ela se tornar mais inteligente do que nós", compartilhou o professor Hinton.

“Mas não acho que o fim do mundo seja inevitável”, diz o professor Hinton. “No entanto, as possibilidades não podem ser ignoradas e precisamos trabalhar arduamente para evitá-lo. Esperamos que os alunos mais talentosos optem por estudar segurança da IA, abordando uma ampla gama de ameaças, desde ameaças de longo prazo, como a dominação da IA, até ameaças de curto prazo, como o cibercrime.”

Professor Yoshua Bengio e Professor Yann LeCun

O professor Yann LeCun afirmou estar preocupado com o risco de a IA dominar os humanos quando atingir o mesmo nível de inteligência humana. No entanto, a resposta atual é que ainda não há perigo. "Podemos perder uma partida de xadrez com um pequeno brinquedo de 30 euros. Isso é perigoso? A resposta é não. A IA só se torna perigosa quando criamos motivação (para controlar os humanos) para ela. Mas, neste momento, a IA só possui conhecimento, não motivação", disse o professor Yann.

Segundo o Professor Yann, criar uma IA que sirva ativamente à humanidade é simplesmente uma questão técnica. A ideia de que a IA dominará a humanidade apenas por ser inteligente é um equívoco, pois, na realidade, muitas pessoas inteligentes existiram ao longo da história, mas não dominaram o mundo ! A IA, em última análise, permanecerá uma ferramenta; o problema reside na humanidade, não na IA.

Segundo o professor Yoshua Bengio, não podemos ser subjetivos, pois um pequeno problema pode afetar a sobrevivência da humanidade. Os humanos podem inserir motivações nas máquinas. Por exemplo, alguém quer transformar uma máquina em um humano, fazendo com que ela pareça ter a necessidade de "sobreviver", e então queremos desligá-la, mas ela se recusa a desligar. "É claro que precisamos garantir que esse cenário não aconteça", disse o professor Bengio.

Fonte: https://thanhnien.vn/chu-nhan-giai-thuong-vinfuture-2024-khong-de-ai-de-doa-su-ton-vong-cua-nhan-loai-185241207195331155.htm