Ne hagyd, hogy a mesterséges intelligencia veszélyeztesse az emberiség fennmaradását

A „mesterséges intelligencia keresztapjai”, a VinFuture 2024 díj nyertesei úgy vélik, hogy a tudósoknak biztosítaniuk kell, hogy a mesterséges intelligencia által vezérelt forgatókönyvek ne veszélyeztessék az emberiség fennmaradását.

Ma, december 7-én a VinFuture 2024 díj nyertesei beszélgettek a VinUni Egyetem hallgatóival és fiatal tudósaival a tudományos kutatásról, valamint az általuk vizsgált területek jövőbeli kilátásairól. Itt a fődíj nyertesei, a kiemelkedő tudósok, akiknek úttörő munkái megalapozták a mai mesterséges intelligencia forradalmát, a mesterséges intelligencia lenyűgöző fejlődéséről beszéltek.

Yann LeCun professzor (középen) és Yoshua Bengio professzor (bal borító) a csereprogramon

„Mintha 10 évet ugrottunk volna a jövőbe.”

Geoffrey Hinton professzor, a kanadai Torontói Egyetem munkatársa nem érkezett Vietnámba a díj átvételére, de részt vett a videócserén . Ő, Yann LeCun professzor és Yoshua Bengio professzor 2018-ban megkapták a Turing-díjat (egy olyan díjat, amelyet a számítástechnika területén Nobel-díjnak tekintenek), és a nemzetközi média mindannyian „mesterséges intelligencia keresztapáknak” nevezte őket. Most mindhármukat továbbra is a VinFuture 2024 fődíjával tüntetik ki két másik tudóssal, Fei Fei Li professzorral (USA) és Jensen Huanggal (az NVIDIA vezérigazgatójával) együtt.

Hinton professzor szerint a mesterséges intelligencia közelmúltbeli fellendülése három tényező eredménye. Először is, a neurális hálózatok hatékonyabb tanulási módszereinek kidolgozására irányuló kutatás, amelyet ő, Yoshua professzor, Yann professzor és sokan mások végeztek. Aztán ott van a grafikus feldolgozó egységek (GPU-k) rendkívül gyors számítási teljesítménye és a hatalmas mennyiségű adat, amelyet gyűjthetünk.

Geoffrey Hinton professzor videón keresztül osztja meg

„Ennek a díjnak (VinFuture 2024) egyik nagyszerű aspektusa Jensen Huang úr munkásságának elismerése a mesterséges intelligencia számára hasznos GPU-kártyák létrehozásában. Jensen Huang GPU-kártyájának és Fei Fei Li professzor adatkészleteinek kombinációja fontos szerepet játszott a mesterséges intelligencia modern fejlődésében. Nagyszerű, hogy munkájukat azok mellett ismerik el, akik a neurális hálózati algoritmusokon dolgoznak” – mondta Hinton professzor.

„Azt tapasztaltuk, hogy amikor GPU-kat használtunk a neurális hálózatok betanítására, azok 30-szor gyorsabbak voltak. Ez egy kvantumugrás volt. Olyan volt, mintha a számítási sebesség 10 évvel megelőzte volna a korát. Hirtelen 10 évvel megelőztük a jövőt a számítási sebességben. Ez teljesen megváltoztatta a játékszabályokat a mesterséges intelligencia számára, lenyűgöző volt!” – osztotta meg Hinton professzor.

A tudósok még mindig azon dolgoznak, hogy jobban megértsék a neurális hálózatokban lévő kapcsolatokat. Ez segíteni fog a tudósoknak olyan mesterséges intelligenciát létrehozni, amely jobban hasonlít az emberi intelligenciára, sőt, az intuíciót is meg tudja magyarázni. A hagyományos logikai megközelítések soha nem lesznek képesek erre.

"Kezdek félni a mesterséges intelligenciától"

Hinton professzor elmondta, hogy a mai nagy neurális hálózatok az emberekéhez hasonlóan intuícióval rendelkeznek. Tavaly óta aggódni kezdett, hogy a mesterséges intelligencia mindössze 5-20 évbe telhet, mire olyan okos lesz, mint az emberek. „Ekkor kezdtem aggódni a mesterséges intelligencia miatt. A fejlesztés leállítása nem lehetséges. Így az egyetlen lehetőség az, hogy megpróbáljuk kitalálni, hogyan garantálható a biztonság, amikor okosabb lesz nálunk” – osztotta meg Hinton professzor.

„De nem hiszem, hogy a világvége elkerülhetetlen” – mondja Hinton professzor. „A lehetőségeket azonban nem szabad figyelmen kívül hagyni, és keményen kell dolgoznunk a megelőzésükön. Remélhetőleg a legtehetségesebb diákok a mesterséges intelligencia biztonságát fogják választani, a fenyegetések széles skáláját vizsgálva, a hosszú távú fenyegetésektől, mint például a mesterséges intelligencia általi felvásárlások, a rövid távú fenyegetésekig, mint például a kiberbűnözés.”

Yoshua Bengio professzor és Yann LeCun professzor

Yann Lecun professzor elmondta, hogy aggódik amiatt is, hogy a mesterséges intelligencia uralni fogja az embereket, amikor olyan okos lesz, mint az emberek. A jelenlegi válasz azonban még nem adott. „Veszthetünk, ha egy 30 eurós kis játékkal sakkozunk. Veszélyes ez? A válasz nem. A mesterséges intelligencia csak akkor válik veszélyessé, ha motivációt teremtünk számára (hogy irányítsa az embereket). De jelenleg a mesterséges intelligencia csak tudással rendelkezik, motivációval nem” – mondta Yann professzor.

Yann professzor szerint az embereket aktívan szolgáló mesterséges intelligencia létrehozása csupán technikai probléma. Mivel a mesterséges intelligencia okos, előítélet azt gondolni, hogy a mesterséges intelligencia uralni fogja az embereket, mert a valóság azt mutatja, hogy a társadalomban sok okos ember volt, de ők nem uralták a világot ! A mesterséges intelligencia továbbra is egy eszköz, a probléma az emberekkel van, nem a mesterséges intelligenciával.

Yoshua Bengio professzor szerint nem lehetünk szubjektívek, egy apró probléma is befolyásolhatja az emberiség fennmaradását. Az emberek képesek motivációt vinni a gépekbe. Például, ha valaki emberré akarja változtatni a gépet, azt a látszatot keltve, hogy a gépnek „túlélési” szükséglete van, akkor ki akarjuk kapcsolni a gépet, de az nem hajlandó kikapcsolni. „Természetesen biztosítanunk kell, hogy ez a forgatókönyv ne következzen be” – mondta Bengio professzor.

Forrás: https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm