AI kan være smartere enn mennesker om omtrent 20 år

Professor Geoffrey Hinton advarte om at AI kan bli smartere enn mennesker i løpet av de neste 20 årene, og sa at dette er en situasjon menneskeheten aldri har møtt.

Innenfor rammen av VinFuture 2025 Science and Technology Week diskuterte paneldiskusjonen « AI for menneskeheten: AI-etikk og sikkerhet i den nye æraen » et av de mest presserende temaene i dag: Ansvarlig AI-utvikling, mot humanistiske verdier og for menneskehetens felles beste.

Forskere diskuterer på seminaret.

Professor Geoffrey Hinton – vinner av Nobelprisen i fysikk i 2024 og hedret som «KIs far» – sendte en videomelding til paneldiskusjonen der han sa at KI utvikler seg svært raskt, og at det bringer med seg både store fordeler og potensielle risikoer.

På den positive siden, sa Hinton, skaper AI en enorm forbedring innen helsevesen, utdanning, utvikling av nye legemidler, nye materialer eller ethvert felt som krever prediksjon, noe som skaper et produktivitetshopp.

« Dette er gunstig hvis det fordeles rettferdig i samfunnet », understreket professoren.

Tvert imot blir AI gradvis bedre på å designe farlige virus eller cyberangrep; lage falske videoer; noe som fører til massearbeidsledighet ...

« AI-eksperter tror at vi vil utvikle systemer som er smartere enn mennesker. Det finnes mange forskjellige synspunkter på når det vil skje, men de fleste spår at det vil skje innen de neste 20 årene. Og vi må raskt tenke på hvordan vi kan leve med enheter som er smartere enn oss selv. Dette er en situasjon menneskeheten aldri har møtt før, den er ny, og vi må gjøre mye forskning før det skjer », sa professor Hinton.

Ifølge professor Geoffrey Hinton har forskere og ingeniører et ansvar for å finne sterkere måter å holde AI i tråd med menneskelige verdier, og må hjelpe publikum og politikere med å bedre forstå AIs natur for å ta de riktige beslutningene.

Professor Yoshua Bengio delte på seminaret.

I mellomtiden sa professor Yoshua Bengo – kjent som «dyp lærings far» og vinner av Turing-prisen i 2018, at AI har potensial til å gi enorme fordeler for å løse mange presserende utfordringer i vår tid, men dette skjer bare når vi veileder den klokt.

Han viser til nyere simuleringer som viser at AI-systemer kan oppføre seg farlig, som å utpresse, lure eller prioritere sin egen overlevelse fremfor menneskelig sikkerhet. I tillegg kan noen funksjoner i populære AI-modeller i dag føre til at brukere danner sterke emosjonelle bånd på usunne måter.

« På ekstreme nivåer kan denne tilknytningen være farlig for den mentale helsen, spesielt for sårbare mennesker som er i faresonen for selvskading, til og med selvmord eller KI-indusert psykose », sa professor Bengo.

Ut fra denne realiteten må vi ifølge Bengo øke sikkerheten for en avansert AI i stedet for bare å fokusere på å utvikle den for å gjøre den sterkere.

« Trygghet og tillit er ikke sekundære faktorer, men essensielle i utviklingsprosessen, til fordel for menneskeheten. Vi må handle sammen både på politisk og vitenskapelig nivå », understreket professor Yoshua Bengo.

Ifølge professor Yoshua Bengo trenger verden internasjonalt samarbeid innen politikk. Vitenskapelig sett er det nødvendig å bedre forstå hvordan man kan designe kunstig intelligens som både er overlegen i egenskaper og ufarlig for mennesker.

Eksperten bemerket spesielt at det å opprettholde evnen til å kontrollere AI for å oppføre seg trygt, selv når mennesker ber dem om å gjøre noe galt, bør bygge tekniske og sosiale barrierer for å sikre at AI er i samsvar med menneskelige normer, intensjoner, verdier og interesser, bør opprettholdes.

Fra et annet perspektiv deler Dr. Vinton Gray Cerf – en av «Internetts fedre» – lærdommer fra mer enn 50 år med internettutvikling for å belyse AI-æraen.

Han skisserte fire viktige lærdommer fra Internett: Tilkobling er alt; ende-til-ende-kommunikasjon må være sikker; systemet må være globalt, og arkitekturen må være åpen nok til å tillate kontinuerlig innovasjon.

« Men internett viser også at absolutt anonymitet gjør ansvarlighet vanskelig. I AI-ens tidsalder blir denne ansvarligheten enda mer presserende ettersom teknologi kan skape falskt innhold, manipulere informasjon og forstyrre samfunnet », sa Dr. Vinton Gray Cerf, og argumenterte for at det å fremme digital tillit – basert på åpenhet, identitet og internasjonalt samarbeid – er et uunnværlig grunnlag for AI-styring.

Engelsk

Kilde: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html