Nu lăsați inteligența artificială să amenințe supraviețuirea umanității

„Nașii inteligenței artificiale”, câștigătorii premiului VinFuture 2024, consideră că oamenii de știință trebuie să se asigure că scenariile legate de inteligența artificială nu amenință supraviețuirea umanității.

Astăzi, 7 decembrie, câștigătorii Premiului VinFuture 2024 au interacționat cu studenți și tineri oameni de știință de la Universitatea VinUni despre cercetarea științifică, precum și despre perspectivele de viitor ale domeniilor pe care le urmăresc. Aici, câștigătorii premiului principal, oameni de știință remarcabili ale căror lucrări inovatoare au pus bazele revoluției actuale a inteligenței artificiale, au vorbit despre progresele uimitoare ale inteligenței artificiale.

Profesorul Yann LeCun (centru) și profesorul Yoshua Bengio (coperta stângă) la sesiunea de schimb de replici

„Simțim că am făcut un salt de 10 ani în viitor.”

Profesorul Geoffrey Hinton, de la Universitatea din Toronto, Canada, nefiind prezent în Vietnam pentru a primi premiul, a participat la schimbul de materiale video . El, profesorul Yann LeCun și profesorul Yoshua Bengio au primit Premiul Turing (un premiu considerat Premiul Nobel în domeniul informaticii) în 2018 și au fost numiți „nașii inteligenței artificiale” de către presa internațională. Acum, toți trei continuă să fie onorați de VinFuture 2024 în cadrul premiului principal, alături de alți doi oameni de știință, profesorul Fei Fei Li (SUA) și domnul Jensen Huang (CEO NVIDIA).

Potrivit profesorului Hinton, recenta creștere a exploziei din domeniul inteligenței artificiale este rezultatul a trei factori. În primul rând, cercetările care vizează dezvoltarea de metode mai eficiente pentru învățarea prin rețele neuronale, la care el, profesorul Yoshua, profesorul Yann și mulți alții au lucrat. În plus, există puterea de calcul extrem de rapidă a unităților de procesare grafică (GPU) și cantitatea enormă de date pe care o putem colecta.

Profesorul Geoffrey Hinton împărtășește prin intermediul unui videoclip

„Un aspect minunat al acestui premiu (VinFuture 2024) este recunoașterea muncii de pionierat a lui Jensen Huang în crearea de plăci GPU utile pentru inteligența artificială. Combinația dintre placa GPU a lui Jensen Huang și setul de date al profesorului Fei Fei Li joacă un rol crucial în dezvoltarea modernă a inteligenței artificiale. Este minunat că eforturile ambelor sunt recunoscute alături de cele ale celor care lucrează cu algoritmi de rețele neuronale”, a declarat profesorul Hinton.

„Am descoperit că atunci când foloseam GPU-uri pentru a antrena rețele neuronale, acestea erau de 30 de ori mai rapide. Acesta a fost un salt cuantic. Era ca și cum viteza de calcul era cu 10 ani înaintea timpului său. Dintr-o dată, eram cu 10 ani înaintea viitorului în ceea ce privește viteza de calcul. Aceasta a schimbat complet regulile jocului pentru inteligența artificială, a fost uimitor!”, a declarat profesorul Hinton.

Oamenii de știință încă lucrează pentru a înțelege mai multe despre conexiunile din rețelele neuronale. Acest lucru îi va ajuta pe oamenii de știință să creeze o inteligență artificială mai asemănătoare inteligenței umane și care poate chiar explica intuiția. Abordările logice tradiționale nu vor putea niciodată face acest lucru.

„Încep să mă tem de IA”

Profesorul Hinton observă că marile rețele neuronale de astăzi posedă o intuiție similară cu cea a oamenilor. De anul trecut, a început să se îngrijoreze că ar putea dura doar 5 până la 20 de ani pentru ca IA să devină la fel de inteligentă ca oamenii. „Atunci am început să mă tem de IA. Oprirea dezvoltării sale nu este o opțiune. Așadar, singura opțiune este să încercăm să găsim modalități de a asigura siguranța atunci când va deveni mai inteligentă decât noi”, a declarat profesorul Hinton.

„Dar nu cred că sfârșitul lumii este inevitabil”, spune profesorul Hinton. „Totuși, posibilitățile nu pot fi ignorate și trebuie să depunem eforturi mari pentru a le preveni. Sperăm că cei mai talentați studenți vor alege să studieze siguranța IA, abordând o gamă largă de amenințări, de la amenințări pe termen lung, cum ar fi preluările de către IA, până la amenințări pe termen scurt, cum ar fi criminalitatea cibernetică.”

Profesorul Yoshua Bengio și profesorul Yann LeCun

Profesorul Yann Lecun a spus că este, de asemenea, îngrijorat de riscul ca IA să domine oamenii atunci când va fi la fel de inteligentă ca aceștia. Cu toate acestea, răspunsul actual nu este încă. „Putem pierde jucând șah cu o jucărie mică în valoare de 30 de euro. Este periculos? Răspunsul este nu. IA devine periculoasă doar atunci când creăm motivație (pentru a controla oamenii) pentru IA. Dar în acest moment, IA are doar cunoștințe, nu și motivație”, a spus profesorul Yann.

Potrivit profesorului Yann, crearea unei IA care să servească în mod activ umanitatea este pur și simplu o chestiune tehnică. Ideea că IA va domina umanitatea doar pentru că este inteligentă este o concepție greșită, deoarece, în realitate, mulți oameni inteligenți au existat de-a lungul istoriei, dar ei nu au dominat lumea ! IA va rămâne în cele din urmă un instrument; problema este la umanitate, nu la IA.

Potrivit profesorului Yoshua Bengio, nu putem fi subiectivi, o singură mică problemă poate afecta supraviețuirea umanității. Oamenii pot insufla motivație mașinilor. De exemplu, cineva vrea să transforme o mașină într-un om, făcând-o să pară că are nevoie să „supraviețuiască”, noi vrem să oprim mașina, dar aceasta refuză să se oprească. „Bineînțeles că trebuie să ne asigurăm că acest scenariu nu se va întâmpla”, a spus profesorul Bengio.

Sursă: https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm