A mesterséges intelligencia 20 éven belül okosabb lehet, mint az emberek

Geoffrey Hinton professzor figyelmeztetett, hogy a mesterséges intelligencia a következő 20 évben okosabbá válhat, mint az emberek, és azt mondta, hogy ez egy olyan helyzet, amellyel az emberiség még soha nem szembesült.

A VinFuture 2025 Tudományos és Technológiai Hét keretében az „ MI az emberiségért: MI etika és biztonság az új korszakban ” című panelbeszélgetés a mai nap egyik legsürgetőbb témáját vitatta meg: a felelős MI-fejlesztést, a humanista értékek felé és az emberiség közjója érdekében.

Tudósok vitatkoznak a szemináriumon.

Geoffrey Hinton professzor, a 2024-es fizikai Nobel-díj kitüntetettje és a „mesterséges intelligencia atyja” videóüzenetében a panelbeszélgetéshez elmondta, hogy a mesterséges intelligencia nagyon gyorsan fejlődik, nagy előnyökkel és potenciális kockázatokkal egyaránt járva.

Hinton úr szerint a pozitív oldalon a mesterséges intelligencia hatalmas javulást hoz az egészségügyben, az oktatásban, az új gyógyszerfejlesztésben, az új anyagokban vagy bármilyen olyan területen, amely előrejelzést igényel, ugrásszerűen növelve a termelékenységet.

„ Ez akkor előnyös, ha igazságosan oszlik el a társadalomban ” – hangsúlyozta a professzor.

Épp ellenkezőleg, a mesterséges intelligencia fokozatosan fejlődik a veszélyes vírusok vagy kibertámadások tervezésében; hamis videók készítésében; ami tömeges munkanélküliséghez vezet...

„ A mesterséges intelligencia szakértői úgy vélik, hogy olyan rendszereket fogunk kifejleszteni, amelyek intelligensebbek lesznek az embereknél. Sokféle nézet létezik arról, hogy mikor fog ez bekövetkezni, de a legtöbben a következő 20 évben jósolnak rá. És sürgősen el kell gondolkodnunk azon, hogyan élhetünk együtt nálunk okosabb entitásokkal. Ez egy olyan helyzet, amellyel az emberiség még soha nem szembesült, ez új, és sok kutatást kell végeznünk , mielőtt ez megtörténik” – mondta Hinton professzor.

Geoffrey Hinton professzor szerint a tudósoknak és mérnököknek felelősségük, hogy erősebb módszereket találjanak arra, hogy a mesterséges intelligencia összhangban legyen az emberi értékekkel, és segíteniük kell a nyilvánosságot és a politikusokat abban, hogy jobban megértsék a mesterséges intelligencia természetét, és helyes döntéseket hozhassanak.

Yoshua Bengio professzor osztotta meg a szemináriumon.

Eközben Yoshua Bengo professzor – akit a „mélytanulás atyjaként” ismernek, és a 2018-as Turing-díj nyertese – azt nyilatkozta, hogy a mesterséges intelligencia hatalmas előnyökkel járhat, segíthet megoldani a kor számos sürgető kihívását, de ez csak akkor történik meg, ha bölcsen irányítjuk.

Friss szimulációkra hivatkozik, amelyek azt mutatják, hogy a mesterséges intelligencia rendszerei veszélyesen viselkedhetnek, például zsarolhatnak, megtéveszthetnek, vagy a saját túlélésüket helyezhetik előtérbe az emberi biztonsággal szemben. Ezenkívül a ma népszerű mesterséges intelligencia modellek egyes funkciói egészségtelen módon erős érzelmi kötődéseket okozhatnak a felhasználókban.

„ Szélsőséges szinteken ez a ragaszkodás veszélyes lehet a mentális egészségre, különösen a sebezhető emberek esetében, akiknél fennáll az önkárosítás, akár az öngyilkosság vagy a mesterséges intelligencia által kiváltott pszichózis veszélye ” – mondta Bengo professzor.

Ebből a valóságból kiindulva, Bengo úr szerint, növelnünk kell egy fejlett mesterséges intelligencia biztonságát, ahelyett, hogy csak a fejlesztésére és az erősebbé tételére koncentrálnánk.

„ A biztonság és a bizalom nem másodlagos tényezők, hanem elengedhetetlenek a fejlesztési folyamatban, az emberiség javát szolgálva. Együtt kell cselekednünk mind politikai, mind tudományos szinten ” – hangsúlyozta Yoshua Bengo professzor.

Yoshua Bengo professzor szerint politikai szempontból a világnak nemzetközi együttműködésre van szüksége. Tudományos szempontból pedig jobban meg kell érteni, hogyan lehet olyan mesterséges intelligenciát tervezni, amely egyszerre kiváló képességekkel rendelkezik, és ártalmatlan az emberre nézve.

A szakértő különösen fontosnak tartotta a mesterséges intelligencia biztonságos viselkedésének megőrzését akkor is, ha az emberek rosszat kérnek tőlük; technikai és társadalmi akadályok építését annak biztosítása érdekében, hogy a mesterséges intelligencia összhangban legyen az emberi normákkal, szándékokkal, értékekkel és érdekekkel.

Egy másik perspektívából Dr. Vinton Gray Cerf - az internet egyik „atyja” - több mint 50 évnyi internetfejlesztés tanulságait osztja meg, hogy rávilágítson a mesterséges intelligencia korszakára.

Négy fő tanulságot vázolt fel az internetről: a kapcsolat minden; a végpontok közötti kommunikációnak biztonságosnak kell lennie; a rendszernek globálisnak kell lennie, és az architektúrának elég nyitottnak kell lennie ahhoz, hogy lehetővé tegye a folyamatos innovációt.

„ Az internet azonban azt is mutatja, hogy a teljes anonimitás megnehezíti az elszámoltathatóságot. A mesterséges intelligencia korában ez az elszámoltathatóság még sürgetőbbé válik, mivel a technológia képes hamis tartalmakat létrehozni, manipulálni az információkat és megzavarni a társadalmat ” – mondta Dr. Vinton Gray Cerf, aki amellett érvelt, hogy a digitális bizalom előmozdítása – az átláthatóságon, az identitáson és a nemzetközi együttműködésen alapulva – nélkülözhetetlen alapja a mesterséges intelligencia irányításának.

angol

Forrás: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html