Laat AI het voortbestaan ​​van de mensheid niet bedreigen

De 'peetvaders van AI', winnaars van de VinFuture 2024-prijs, zijn van mening dat wetenschappers ervoor moeten zorgen dat AI-scenario's het voortbestaan ​​van de mensheid niet bedreigen.

Vandaag, 7 december, gingen de winnaars van de VinFuture 2024-prijs in gesprek met studenten en jonge wetenschappers van de VinUni Universiteit over wetenschappelijk onderzoek en de toekomstperspectieven van de vakgebieden waarin zij actief zijn. Hier spraken de winnaars van de hoofdprijs, vooraanstaande wetenschappers wier baanbrekende werk de basis heeft gelegd voor de huidige AI-revolutie, over de verbluffende ontwikkelingen op het gebied van AI.

Professor Yann LeCun (midden) en professor Yoshua Bengio (linker omslag) tijdens de uitwisselingssessie

"Het is alsof we 10 jaar in de toekomst zijn gesprongen."

Professor Geoffrey Hinton van de Universiteit van Toronto, Canada, kwam niet naar Vietnam om de prijs in ontvangst te nemen, maar nam wel deel aan de video- uitwisseling. Hij, professor Yann LeCun en professor Yoshua Bengio ontvingen in 2018 de Turing Award (een prijs die wordt beschouwd als de Nobelprijs voor computerwetenschappen) en werden door de internationale media alle drie "AI-peetvaders" genoemd. Nu worden ze alle drie nog steeds geëerd door VinFuture 2024 in de hoofdprijs, samen met twee andere wetenschappers: professor Fei Fei Li (VS) en dhr. Jensen Huang (CEO NVIDIA).

Volgens professor Hinton is de recente bloei van AI het resultaat van drie factoren. Ten eerste is er het onderzoek naar efficiëntere methoden voor neurale netwerken om te leren, wat hij, professor Yoshua, professor Yann en vele anderen hebben gedaan. Ten tweede is er de extreem snelle rekenkracht van grafische processors (GPU's) en de enorme hoeveelheid data die we kunnen verzamelen.

Professor Geoffrey Hinton deelt via video

"Een geweldig aspect van deze prijs (VinFuture 2024) is de erkenning van het werk van de heer Jensen Huang als pionier in de ontwikkeling van GPU-boards die nuttig zijn voor AI. De combinatie van Jensen Huangs GPU-board en de datasets van professor Fei Fei Li speelde een belangrijke rol in de moderne ontwikkeling van AI. Het is geweldig dat hun werk wordt erkend naast dat van degenen die werken aan neurale netwerkalgoritmen", aldus professor Hinton.

"We ontdekten dat toen we GPU's gebruikten om neurale netwerken te trainen, ze 30 keer sneller waren. Dat was een enorme sprong voorwaarts. Het was alsof de rekensnelheid tien jaar voorliep op zijn tijd. Plotseling liepen we tien jaar voor op de toekomst qua rekensnelheid. Dat was een complete gamechanger voor AI, het was verbazingwekkend!", aldus professor Hinton.

Wetenschappers werken nog steeds aan meer inzicht in de verbindingen in neurale netwerken. Dit zal wetenschappers helpen kunstmatige intelligentie te creëren die meer op menselijke intelligentie lijkt en zelfs intuïtie kan verklaren. Traditionele logische benaderingen zullen dat nooit kunnen.

"Ik begin bang te worden voor AI"

Professor Hinton zei dat de huidige grote neurale netwerken intuïtie hebben die vergelijkbaar is met die van mensen. Sinds vorig jaar begon hij zich zorgen te maken dat het slechts 5 tot 20 jaar zou duren voordat AI net zo slim zou zijn als de mens. "Toen begon ik me zorgen te maken over AI. De ontwikkeling stoppen is geen optie. En dus is de enige optie om te proberen uit te zoeken hoe we de veiligheid kunnen garanderen wanneer AI slimmer wordt dan wij," aldus professor Hinton.

"Maar ik denk niet dat het einde van de wereld onvermijdelijk is", zegt professor Hinton. "De mogelijkheden kunnen echter niet worden genegeerd en we moeten er hard aan werken om dit te voorkomen. Hopelijk kiezen de meest getalenteerde studenten ervoor om AI-veiligheid te studeren, waarbij ze een breed scala aan bedreigingen aanpakken, van langetermijnbedreigingen zoals AI-overnames tot kortetermijnbedreigingen zoals cybercriminaliteit."

Professor Yoshua Bengio en professor Yann LeCun

Professor Yann Lecun zei dat hij zich ook zorgen maakt over het risico dat AI de mens zal domineren wanneer het net zo slim is als de mens. Het huidige antwoord is echter nog niet. "We kunnen verliezen bij het schaken met een klein speeltje ter waarde van 30 euro. Is dat gevaarlijk? Het antwoord is nee. AI wordt pas gevaarlijk wanneer we AI motiveren (om mensen te controleren). Maar op dit moment heeft AI alleen kennis, geen motivatie," zei professor Yann.

Volgens professor Yann is het creëren van AI die de mens actief dient slechts een technisch probleem. Omdat AI slim is, is de gedachte dat AI de mens zal domineren een vooroordeel. De realiteit laat namelijk zien dat er in de samenleving veel slimme mensen zijn geweest, maar dat zij de wereld niet hebben gedomineerd! AI is nog steeds een hulpmiddel; het probleem ligt bij de mens, niet bij AI.

Volgens professor Yoshua Bengio kunnen we niet subjectief zijn; zelfs een klein probleem kan het voortbestaan ​​van de mensheid beïnvloeden. Mensen kunnen machines motiveren. Stel dat iemand de machine in een mens wil veranderen, waardoor het lijkt alsof de machine moet "overleven". We willen de machine dan uitzetten, maar hij weigert uit te schakelen. "Natuurlijk moeten we ervoor zorgen dat dit scenario zich niet voordoet", aldus professor Bengio.

Bron: https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm