AI zou over ongeveer 20 jaar slimmer kunnen zijn dan mensen

Professor Geoffrey Hinton waarschuwde dat AI in de komende 20 jaar slimmer zou kunnen worden dan de mens. Volgens hem is dit een situatie die de mensheid nog nooit eerder heeft meegemaakt.

In het kader van de VinFuture 2025 Week van Wetenschap en Technologie werd tijdens het panelgesprek " AI voor de mensheid: AI-ethiek en veiligheid in het nieuwe tijdperk " een van de meest urgente onderwerpen van vandaag besproken: Verantwoordelijke AI-ontwikkeling, gericht op humanistische waarden en ten behoeve van het algemeen belang van de mensheid.

Wetenschappers bespreken dit tijdens het seminar.

Professor Geoffrey Hinton, winnaar van de Nobelprijs voor natuurkunde in 2024 en geprezen als de "vader van AI", stuurde een videoboodschap naar de paneldiscussie en zei dat AI zich razendsnel ontwikkelt en zowel grote voordelen als potentiële risico's met zich meebrengt.

Positief is dat AI volgens de heer Hinton een enorme verbetering teweegbrengt in de gezondheidszorg, het onderwijs, de ontwikkeling van nieuwe medicijnen, nieuwe materialen en alle andere gebieden waar voorspellingen van belang zijn, en een sprong voorwaarts in de productiviteit oplevert.

“ Dat is gunstig als het eerlijk verdeeld wordt in de samenleving ”, benadrukte de professor.

Integendeel, AI wordt steeds beter in het ontwerpen van gevaarlijke virussen of cyberaanvallen; het maken van nepvideo's; wat leidt tot massale werkloosheid...

" AI-experts geloven dat we systemen zullen ontwikkelen die slimmer zijn dan mensen. Er zijn veel verschillende meningen over wanneer dat zal gebeuren, maar de meeste voorspellen binnen de komende twintig jaar. En we moeten dringend nadenken over hoe we kunnen leven met wezens die slimmer zijn dan wijzelf. Dit is een situatie die de mensheid nog nooit eerder heeft meegemaakt, het is nieuw en we moeten veel onderzoek doen voordat het zover is ", aldus professor Hinton.

Volgens professor Geoffrey Hinton hebben wetenschappers en ingenieurs de verantwoordelijkheid om betere manieren te vinden om AI in lijn te brengen met menselijke waarden. Ook moeten ze het publiek en politici helpen de aard van AI beter te begrijpen, zodat ze de juiste beslissingen kunnen nemen.

Professor Yoshua Bengio gaf een presentatie tijdens het seminar.

Professor Yoshua Bengo, ook wel de "vader van deep learning" genoemd en winnaar van de Turing Award 2018, zei dat AI enorme voordelen kan bieden bij het oplossen van veel urgente uitdagingen van deze tijd. Maar dat dit alleen kan gebeuren als we er verstandig mee omgaan.

Hij haalt recente simulaties aan die aantonen dat AI-systemen zich gevaarlijk kunnen gedragen, zoals chanteren, bedriegen of hun eigen overleving boven de veiligheid van mensen stellen. Bovendien kunnen sommige kenmerken van populaire AI-modellen ervoor zorgen dat gebruikers op ongezonde manieren sterke emotionele banden ontwikkelen.

" In extreme mate kan deze gehechtheid gevaarlijk zijn voor de geestelijke gezondheid, vooral voor kwetsbare mensen die het risico lopen op zelfbeschadiging, zelfs zelfmoord of door AI veroorzaakte psychose ", aldus professor Bengo.

Vanuit deze realiteit moeten we volgens de heer Bengo de veiligheid van geavanceerde AI vergroten in plaats van ons alleen maar te richten op het sterker maken ervan.

" Veiligheid en vertrouwen zijn geen secundaire factoren, maar essentieel in het ontwikkelingsproces, ten behoeve van de mensheid. We moeten samenwerken, zowel op beleidsmatig als op wetenschappelijk niveau ", benadrukte professor Yoshua Bengo.

Volgens professor Yoshua Bengo heeft de wereld op beleidsmatig vlak internationale samenwerking nodig. Op wetenschappelijk vlak is het noodzakelijk om beter te begrijpen hoe we AI kunnen ontwerpen die zowel superieur is in mogelijkheden als onschadelijk voor mensen.

De expert merkte met name op dat het vermogen om AI te controleren, behouden moet blijven en ervoor moet zorgen dat AI zich veilig gedraagt, zelfs als mensen vragen om iets verkeerds te doen. Daarbij moeten technische en sociale barrières worden opgeworpen om te garanderen dat AI aansluit bij menselijke normen, bedoelingen, waarden en belangen.

Vanuit een ander perspectief deelt Dr. Vinton Gray Cerf, een van de 'vaders van het internet', lessen uit meer dan 50 jaar internetontwikkeling om licht te werpen op het AI-tijdperk.

Hij schetste vier belangrijke lessen die we van het internet kunnen leren: connectiviteit is alles, end-to-end-communicatie moet veilig zijn, het systeem moet wereldwijd zijn en de architectuur moet open genoeg zijn om voortdurende innovatie mogelijk te maken.

" Maar het internet laat ook zien dat absolute anonimiteit verantwoordingsplicht bemoeilijkt. In het tijdperk van AI wordt die verantwoordingsplicht nog urgenter, omdat technologie nepcontent kan creëren, informatie kan manipuleren en de maatschappij kan ontwrichten ", aldus Dr. Vinton Gray Cerf, die betoogde dat het bevorderen van digitaal vertrouwen – gebaseerd op transparantie, identiteit en internationale samenwerking – een onmisbare basis is voor AI-bestuur.

Engels

Bron: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html