Mesterséges Intelligencia: Növelnünk kell a biztonságot ahelyett, hogy csak az erősebb fejlesztésre koncentrálnánk

Ahelyett, hogy pusztán a mesterséges intelligencia fejlesztésére összpontosítanánk az erősebbé válás érdekében, a mesterséges intelligencia világszintű szakértői arra figyelmeztetnek, hogy az embereknek sürgősen el kell gondolkodniuk azon, hogyan éljenek együtt a mesterséges intelligenciával – egy náluk okosabb entitással, amely megakadályozza, hogy átvegye az irányítást az emberektől.

A VinFuture 2025 Tudományos és Technológiai Hét keretében megrendezett „Mesterséges intelligencia az emberiségért: MI etika és biztonság az új korszakban” panelbeszélgetés tudósokat , politikusokat és feltalálókat hoz össze, hogy megvitassák a felelős mesterséges intelligencia fejlesztését a humanista értékek felé.

Sürgősen gondold át, hogyan élhetsz együtt a mesterséges intelligenciával – egy nálad okosabb entitással

A szemináriumon Toby Walsh professzor, az ausztráliai Új-Dél-Walesi Egyetem munkatársa, az Amerikai Számítógép-szövetség akadémikusa megerősítette: „Szilárdan hiszem, hogy a mesterséges intelligencia felelősségteljes használatát kötelezővé kellene tenni. Manapság számos visszás ösztönző létezik, hatalmas összegeket keresnek a mesterséges intelligencia révén, és a megfelelő viselkedés biztosításának egyetlen módja a szigorú szabályozások alkalmazása, hogy a közérdek mindig egyensúlyban legyen a kereskedelmi érdekekkel.”

Egy tipikus példát említett a fontos döntésekre, például az Egyesült Államokban hozott ítéletekre és ítélkezésre, ahol egy mesterséges intelligenciarendszert használtak arra, hogy ajánlásokat tegyen egy személy börtönbüntetésére és a visszaesés valószínűségére vonatkozóan. Sajnos ezt a rendszert korábbi adatokon képezték ki, és akaratlanul is tükrözte a múltbeli faji előítéleteket, ami a fekete emberek elleni diszkriminációhoz vezetett.

Toby Walsh professzor, Új-Dél-Walesi Egyetem, Ausztrália, az Amerikai Számítógépes Társaság tagja.

Ezért a mesterséges intelligencia rendszereket telepítő és üzemeltető vállalatoknak felelősséget kell vállalniuk ezeknek a „gépeknek” az okozta következményekért.

Geoffrey Hinton professzor, a VF 2024 fődíjának nyertese aggódik amiatt, hogy a mesterséges intelligencia fokozatosan fejlődik a veszélyes vírusok, a kibertámadások és a választások megzavarására szolgáló hamis videók tervezésében. A következő 20 évben a mesterséges intelligencia okosabb lesz nálunk, és nem fogjuk tudni, hogyan akadályozzuk meg, hogy átvegye az irányítást az emberektől.

Ezért a professzor hangsúlyozta: „Sürgősen el kell gondolkodnunk azon, hogyan élhetünk együtt nálunk okosabb entitásokkal. Ez egy olyan helyzet, amellyel az emberiség még soha nem szembesült, ez új, és sok kutatási erőfeszítést kell tennünk, mielőtt ez megtörténik.”

A mesterséges intelligencia kockázatainak korlátozása érdekében fokozni kell a nemzetközi együttműködést

Ezzel az aggodalommal egyetértve Yoshua Bengio professzor, a VinFuture 2024 fődíjának nyertese elmondta, hogy a mesterséges intelligencia modelljei, képességeik és autonómiájuk szintje továbbra is gyors és folyamatos ütemben fejlődik. Ha ez a tendencia folytatódik, az autonóm mesterséges intelligencia rendszerek mindössze 5-10 éven belül a legtöbb kognitív feladatban felülmúlhatják az embereket.

Ez egy történelmi fordulópont lenne, amely drámaian javíthatná az életminőségünket. De ha nem kezeljük óvatosan, hatalmas kockázatot jelenthet a demokráciára, a geopolitikai stabilitásra, sőt az emberiség jövőjére is.

„Fokoznunk kell a fejlett mesterséges intelligencia biztonságát ahelyett, hogy csak az erősítésére koncentrálnánk. A biztonság és a bizalom nem másodlagos tényezők, hanem elengedhetetlenek az emberiség javát szolgáló fejlesztési folyamatban. Együtt kell cselekednünk mind politikai, mind tudományos szinten” – mondta.

Yoshua Bengio professzor - A VinFuture 2024 fődíjának nyertese.

Ez a tudós azt javasolja, hogy a politika terén a világnak nemzetközi együttműködésre van szüksége. Tudományos szempontból jobban meg kell érteni, hogyan lehet olyan mesterséges intelligenciát tervezni, amely egyszerre kiváló képességekkel rendelkezik, és ártalmatlan az emberekre nézve, hogyan lehet fenntartani a mesterséges intelligencia irányításának képességét, hogy biztonságosan viselkedjen akkor is, ha az emberek rosszat kérnek tőle, és hogyan kell technikai és társadalmi akadályokat építeni annak biztosítására, hogy a mesterséges intelligencia összhangban legyen az emberi normákkal, szándékokkal, értékekkel és érdekekkel.

Dr. Vinton Grey Cert (a Google alelnöke és internetes evangelizációért felelős igazgatója - a VF 2022 nagydíj nyertese) egyetért: Felelősségre kell vonnunk a mesterséges intelligenciát, létre kell hoznunk egy felügyeleti láncot, hogy tudjuk, mit tesznek, mikor, különösen akkor, ha valami rosszul sül el. Az emberekre vonatkozó elvek közül sok az online környezetben működő mesterséges intelligencia-ügynökökre is vonatkozik.

„Egyidejűleg kell új normákat kialakítanunk, ahol az erős azonosítás, a titkosítás az információk védelmére, az elszámoltathatóságot biztosító mechanizmusok alkalmazása és a személyazonosságok mások általi eltérítésétől való védelme rendszeres szokássá válik. A technológiát a kockázatok kezdettől fogva történő korlátozására kell használnunk, és egyértelművé kell tennünk, hogy mindenkinek, akit a közösségre és a társadalomra nézve károsnak találnak, szembe kell néznie a viselkedésének következményeivel. Ehhez nemzetközi együttműködésre van szükség” – mondta.

Vietnamnak saját utat kell kitűznie a mesterséges intelligencia által generált adatok építésében.

Luu Anh Tuan docens, a Nanyang Műszaki Egyetem (Szingapúr) és a VinUni Egyetem (Vietnam) munkatársa elmondta, hogy más országok körülbelül 10 éves adatsorokkal rendelkeznek, de Vietnam a nulláról indul. Ezért már a kezdetektől fogva fenntartható adatokat tudunk építeni, tiszta, etikus és kulturálisan megfelelő adatokat szolgáltatva.

Vietnam számára azonban a legnagyobb kihívást a vietnami nyelv sajátossága jelenti. Sokszínű dialektusrendszerrel, gazdag regionális kultúrával és rendkívül összetett megszólítási formákkal rendelkezünk. A nagy modellek, mint például a ChatGPT vagy a Gemini, támogatják a vietnamit, de a minőség nem elég mély, mivel nem értik a vietnami dialektust, szokásokat vagy történelmet.

Vietnámnak ki kell építenie a saját vietnami modelljét. Ezenkívül nyílt forráskódú modellt kell fejlesztenünk, amelyet a kisvállalkozások is használhatnak és hozzájárulhatnak. „Ha csak külföldi modellekre, „fekete dobozok” formájában támaszkodunk, akkor csak MI-felhasználók leszünk , és nem MI-fejlesztők” – mondta.

Jelenleg Luu Anh Tuan docens és kollégái vietnami mesterséges intelligencia alapú adatokat építenek. Olyan tényezőket kell figyelembe venni, mint a nyelvjárás, a történelem és a kultúra.

Azt is elmondta, hogy külföldön a diákokat nagyon korán felvilágosítják a mesterséges intelligenciáról. Vietnámban ez még csak most kezdődik, de a tanulással és az ennek megfelelő alkalmazkodással felgyorsíthatjuk a folyamatot.

„A fiatal vietnami emberek nagyon dinamikusak; csak teljes körűen fel kell világosítani őket a digitális felelősségvállalásról. Egységes testületre van szükségünk, amely megerősíti és szabványosítja az adatminőséget és az etikai normákat. A VinUni is részt vesz az etikai normák rendszerének kiépítésén dolgozó tanácsban, és továbbra is hozzá fog járulni ehhez a folyamathoz” – mondta.

Luu Anh Tuan docens, Nanyang Műszaki Egyetem (Szingapúr), VinUni Egyetem (Vietnam).

Válaszul a Vietnamot 2030-ra a régió vezető mesterséges intelligencia terén célul kitűző külföldi közvetlentőke-stratégiára, Tuan docens úgy véli, hogy Vietnam magas színvonalú emberi erőforrásokkal rendelkezik – ezt a matematika, a fizika és a kémia területén elért nemzetközi eredmények is bizonyítják. Ha tudjuk, hogyan kell erőket gyűjteni és erős politikákat kidolgozni, a 2030-as cél teljes mértékben elérhető.

Toby Walsh professzor azt javasolja, hogy Vietnam fektessen be az emberekbe, és proaktívan fejlessze az emberek készségeit, biztosítsa, hogy megértsék a mesterséges intelligenciát; támogassa a mesterséges intelligenciával foglalkozó vállalkozókat, vállalkozásokat és egyetemeket. Ahelyett, hogy más országokra várnánk a technológia átadásával vagy útmutatással, proaktívnak kell lennünk, és elsajátítanunk kell a technológiát.

Emellett Vietnamnak erőteljesen mozgósítania kell a közösségi hálózati platformokat, hogy biztonságos környezetet teremtsen a hazai felhasználók számára anélkül, hogy ez befolyásolná az ország demokráciáját.

THAO LE-THIEN LAM

Forrás: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html