A mesterséges intelligencia alakítja a jövőt – 2. rész: A vele járó kihívások

A potenciál kockázattal jár

Tagadhatatlan, hogy a mesterséges intelligencia (MI) egyre inkább hatékony eszköznek bizonyul a munkavállalók támogatásában és az emberi élet megkönnyítésében. Ezek a technológiai termékek azonban olyanok, mint egy „kétélű fegyver”, amikor a rosszfiúk kihasználják őket csalások és támadások elkövetésére a kibertérben.

Az Információbiztonsági Minisztérium ( Információs és Kommunikációs Minisztérium ) vagy a Kiberbiztonsági Szövetség figyelmeztető közleményeiben számos mesterséges intelligencia technológiát alkalmazó csalásról számoltak be. Például Nguyen Thanh T asszony, egy hanoi irodai dolgozó, miközben egy barátjával beszélgetett a Facebook Messengeren, a barátja elköszönt és befejezte a beszélgetést, de hirtelen visszatért az SMS-hez, kölcsönkérte a hívást, és bankszámlára kérte a pénz átutalását. Bár a számla neve megegyezett a barátja nevével, T asszony gyanakodott, ezért videohívást kért az ellenőrzéshez. A barátja azonnal beleegyezett, de a hívás csak néhány másodpercig tartott a "szakaszos hálózat" miatt.

Miután látta barátja arcát a videohívásban , és a hangja is helyes volt, Ms. T átutalta a pénzt. Azonban csak a sikeres átutalás után jött rá, hogy a hackerek csapdájába esett.

Nemcsak Ms. T-t, hanem sok más áldozatot, barátot és rokont is átvertek ugyanígy. A Deep Fake eszközökkel és hangokkal megszemélyesített rosszfiúk által kijátszott pénzösszeg elérte a több tízmillió dongot.

Egy másik tipikus példa az eszközök mesterséges intelligencia általi eltulajdonítására Mr. NTH esete, amikor egy Androidos telefont használva a csalók csapdát állítottak fel egy rosszindulatú link telepítésére vonatkozó utasításokkal. Innen átvették az irányítást a telefon és a bankszámlák felett, hogy pénzt utaljanak át egy harmadik félnek. Ezenkívül a rosszindulatú program automatikusan felvette a kapcsolatot az elérhető elérhetőségekkel, és automatikus üzeneteket küldött pénzátutalást kérve.

NTH úr elmondta, hogy a szélhámos „ rendőrnek ” adta ki magát, felhívta a telefonszámát, és kérte, hogy ellenőrizze a személyazonosító adatait. Mivel idős volt, nem jártas a technológiában és hiszékeny, az áldozat átadta a telefonját egy harmadik személynek, hogy megkérje, kövesse a csaló utasításait, ezzel letöltötte és telepítette a „DichVuCong.apk” rosszindulatú alkalmazást a telefonjára.

Tran Nguyen Chung, az Információbiztonsági Osztály (Információbiztonsági Osztály) vezetője elmondta: „A mesterséges intelligencia technológiájának fejlődésével egyre nehezebb lesz felismerni és megkülönböztetni a valódi és a hamis tartalmakat a kibertérben, és bárki célponttá, áldozattá válhat a mesterséges intelligencia technológiát használó bűnözők által elkövetett kibertámadásoknak. Az azonban, hogy valaki áldozattá válik-e, attól függ, hogy rendelkezik-e a szükséges ismeretekkel és információkkal.”

Ez a mesterséges intelligencia technológiával kapcsolatos csalási helyzet nemcsak Vietnámban, hanem a világ számos országában is megjelenik. Jelenleg ügynökségek, szervezetek és nagy technológiai vállalatok dolgoznak együtt azon, hogy intézkedéseket és technikai megoldásokat találjanak a felderítésre és a megelőzésre a gyökerénél.

A jelenlegi időszakban a legfontosabb intézkedés a propaganda népszerűsítése, valamint a hamisítás e kifinomult formájának felismerésére és kezelésére szolgáló módszerek, trükkök és módok tudatosítása, hogy csökkenteni és korlátozni lehessen a deepfake hatását a kibertérben zajló tevékenységekre. Proaktívan széles körű figyelmeztetéseket kell kiadni a tömegmédiában az új fejlemények és csalási formák megjelenése esetén.

„Abban az esetben, ha zsarolás céljából érzékeny képeket vagy videókat tartalmazó hívásokat kapnak, az embereknek nyugodtnak kell maradniuk, ellenőrizniük és alaposan meg kell vizsgálniuk a képek és videók eredetét” – mondta Tran Nguyen Trung úr.

A Hanoiban található Vietnami Nemzeti Egyetem Közgazdaságtudományi Egyetemének (UEB) „A globális gazdaságot fenyegető kockázatok azonosítása 2024-ben” című kutatási jelentése szerint a globális gazdaságot érintő kockázatok egyike a technológiai szektorban rejlő kockázat. A jelentés szerint a mesterséges intelligencia gyors térnyerésével összefüggésben a vezetési politikák nem tudtak lépést tartani a mesterséges intelligencia fejlődésével. A mesterséges intelligencia által nyújtott félretájékoztatás, különösen egy olyan évben, amikor sok választás van a világon, mint az idei, számos problémát vet fel a biztonság, a politika, a védelem és a béke szempontjából világszerte.

Nguyen Hoang Giang, a tudományos és technológiai miniszterhelyettes a Tin Tuc újság újságíróinak nyilatkozva elmondta: „A miniszterelnök kiadta a 127/2021. számú határozatot a mesterséges intelligencia 2030-ig terjedő nemzeti kutatási stratégiájáról, fejlesztéséről és alkalmazásáról. A végrehajtás érdekében a Tudományos és Technológiai Minisztérium, valamint más minisztériumok és ágazatok drasztikusan és szinkronban hajtották végre a lépéseket, például az Igazságügyi Minisztérium a jogi aspektusokat kutatja. Az Információs és Kommunikációs Minisztérium a digitális technológiát kutatja. A Tudományos és Technológiai Minisztérium támogatta, kutatta és fejlesztette az Ipar 4.0-t; kutatta és alkalmazta az információs technológia fejlesztését, amely a digitális és intelligens városok fejlesztését szolgálja. A gyors és erőteljes fejlődéssel azonban a mesterséges intelligencia negatív aspektusai és kockázatai is megjelentek, amikor visszaélésszerűen használják, hogy a kiberbűnözők eszközévé váljon csalás, személyazonosság-ellenőrzés, fenyegetések, tulajdon eltulajdonítása stb. céljából.”

A Tudományos és Technológiai Minisztérium és a kormány a kutatás mellett jelenleg is aktívan építi a jogi keretet, tanulva más fejlett országok tapasztalataiból, hogy a vietnami mesterséges intelligencia területe érvényesítse lehetőségeit, elősegítse a fejlődést, valamint szigorúan ellenőrizze, biztosítsa az etikát és az emberiességet a mesterséges intelligencia területén.

A mesterséges intelligencia eszközeinek gyors fejlődése számos kérdést vetett fel az emberi jogokkal, az etikával, a magánélettel, az információbiztonsággal és a jogi felelősséggel kapcsolatban. A világ többi részéhez képest Vietnam még mindig a mesterséges intelligencia fejlesztésének korai szakaszában van. Ezért szükség van olyan speciális mesterséges intelligencia szabályozásra és politikára, amelyek Vietnam életének, gazdaságának és társadalmának minden aspektusára vonatkoznak.

Sürgősen ki kell adni a jogi keretet

A mesterséges intelligencia sötét oldalának kezelése szintén egy olyan téma, amelyről több országban is szó esett. Az Európai Parlament jóváhagyta a világ első alapvető szabályrendszerét a mesterséges intelligencia szabályozására. Számos technológiai szakértő úgy véli, hogy ez a szabályrendszer segíteni fogja az EU-t mindkét cél elérésében: minimalizálni a technológiai fejlődés negatív hatását a felhasználókra, valamint felzárkózni a piacon lévő főbb versenytársak domináns pozíciójához.

Röviddel ezután az ENSZ Közgyűlése elfogadott egy határozatot a mesterséges intelligenciáról (MI), amelyben globális támogatást nyújtott a nemzetközi erőfeszítésekhez annak biztosítása érdekében, hogy ez az új technológia minden ország számára előnyös legyen, tiszteletben tartsa az emberi jogokat, és „biztonságos, megbízható és megbízható” legyen.

Vu Ngoc Son úr, a Nemzeti Kiberbiztonsági Technológiai Részvénytársaság műszaki igazgatója elmondta: „A mesterséges intelligencia egy olyan technológia, amely az emberi érdekeket szolgálja, és számos különböző működési szakasz automatizálását támogatja. Ez egy hatékony eszköz, amelyet sokféle célra használnak, például kérdések és válaszok nyújtására, szoftverfejlesztésre stb. A mesterséges intelligenciának azonban negatív oldala is van, amikor rosszindulatú szereplők kezébe kerül azzal a céllal, hogy csalárd tartalmakat és rosszindulatú kódokat hozzanak létre a felhasználók megtámadására. Ennek megfelelően a mesterséges intelligencia nem kifejezetten termékek létrehozására vagy bűncselekmények elkövetésére szolgáló eszköz, hanem a fontos kérdés az, hogy „hogyan kell használni” a mesterséges intelligenciát.”

„Úgy gondolom, hogy a szankciók és a jogi folyosók nem igazán tartották a mesterséges intelligencia fejlődésének sebességét. Időre lesz szükségünk olyan politikák kidolgozásához és bevezetéséhez, amelyek korlátozzák a mesterséges intelligencia rossz célokra való felhasználásának kockázatait, ami az emberi jogokat, a biztonságot, a rendet és a társadalmi biztonságot egyaránt érinti” – mondta Vu Ngoc Son úr.

Dr. Dang Minh Tuan, a CMC ATI Intézet igazgatója elmondta: „Egyrészt továbbra is folytatnunk kell az új technológiák kutatását és fejlesztését, a mesterséges intelligencia rossz célokra való felhasználásának módszereinek korszerűsítését és tanulmányozását. Másrészt elő kell mozdítanunk a becsületességet a tudományban és a munkában. Ennek megfelelően kiigazításokra és beruházásokra van szükség a tartalomba, valamint konkrét irányelvekre ehhez az eszközhöz Vietnámban. Különösen a rosszindulatú tartalmak és kódok észlelésére is használhatjuk a mesterséges intelligencia eszközeit. A mesterséges intelligencia olyan, mint egy „kétélű fegyver”, amely folyamatos, folyamatos hatásfolyamatot hoz létre, folyamatosan fejlődik, végső soron az emberi érdekek szolgálatával.”

A szakértők szerint a high-tech termékek fejlesztésének felelősségteljes ellenőrzése a követelmény, mivel a technológia szabályozásának és elsajátításának hiánya kiszámíthatatlan következményekkel jár, veszteségeket okoz a gazdaságnak, és hatással van mind az egyes emberekre, mind az egész társadalomra.

A konkrét és átlátható szabályozások kiadása nemcsak a mesterséges intelligencia által okozott kockázatok megelőzésében és minimalizálásában segít, hanem abban is, hogy Vietnam felkeltse a világ vezető technológiai vállalatainak figyelmét és befektetéseit, elősegítve a hazai informatikai és mesterséges intelligencia iparág fejlődését.

Záró cikk: A mesterséges intelligencia párhuzamos fejlesztése és irányítása

Forrás: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238