A technológia etikai határok átlépésének megakadályozása

Gyors fejlődésének köszönhetően a mesterséges intelligencia (MI) számos területen „forradalmat” teremt – az egészségügytől, az oktatáson és az üzleti életben át a mindennapi életig. A technológia negatív aspektusai azonban jelentős kihívást jelentenek a kibertérben található információk kezelése és ellenőrzése terén.

Elárasztva mesterséges intelligencia által generált álhírekkel

A mesterséges intelligencia által generált álhíreket elsősorban a megtekintések és lájkok számának növelése, az interakciók növelése, online értékesítés vagy a platformból származó profit növelése céljából terjesztik a közösségi média platformokon.

Az álhíreket gyártó emberek gyakran „követik” a közérdeklődésre számot tartó aktuális, aktuális kérdéseket. Például a szeptember 17-i súlyos közlekedési baleset után, amely a Quang Tri tartománybeli Lao Bao község Tan Long piacán történt, és amelyben 12 ember sérült meg és halt meg, számos szívszorító kép jelent meg a közösségi hálózatokon, sok nézőt könnyekre fakasztva. Miután megállapították, hogy ezeket a képeket mesterséges intelligencia készítette, a Lao Bao község rendőrsége figyelmeztetést adott ki a félreértéseket okozó hamis képek terjesztése miatt. Ez a cselekmény nemcsak hamis információk terjedéséhez vezet, hanem a nyomozást is befolyásolja.

Hasonlóképpen, kihasználva a július 19-én a Quang Ninh tartománybeli Ha Long-öbölben felborult Blue Bay 58 turistahajó körüli közfigyelmet, amelyben több tucat ember halt meg, számos közösségi média fiók megható képeket és történeteket tett közzé az áldozatokról. Ezek a tartalmak azonban hamisak voltak, mesterséges intelligencia segítségével készültek, hogy „megszólítsák” a közösségi média felhasználóinak érzelmeit és interakcióra ösztönözzék őket. Figyelemre méltó, hogy a széles körben elterjedt, eltúlzott, együttérző tartalmú hamis képek további érzelmi traumát okozhatnak az áldozatok családjainak.

A mesterséges intelligencia technológiájának napról napra történő fejlődésével mindössze néhány perc alatt, egyszerű parancsokkal létrehozhatunk egy vonzó tartalmú videót, amely hű a felhasználó szándékaihoz. Különösen az új generációs mesterséges intelligencia platformok, mint például a KlingAI, a Veo 3, a Sora... népszerűek a felhasználók körében világszerte, beleértve Vietnamot is.

Emellett a deepfake technológia – a mélytanulás és a hamisítás kombinációja – is nagy aggodalmat keltett világszerte, mivel valósághű képek, hangok vagy videók létrehozására használható, amelyeket nagyon nehéz hamisítványként azonosítani. Ennek eredményeként számos, ehhez a technológiához kapcsolódó csalás történt Vietnámban és világszerte egyaránt.

Nguyen Minh Chinh altábornagy, a Nemzeti Kiberbiztonsági Szövetség állandó alelnöke megjegyezte, hogy tendencia mutatkozik a mesterséges intelligencia illegális célokra való felhasználásában. Különösen a szolgáltatásként nyújtott mesterséges intelligenciát (AI-eszközöket és -alkalmazásokat biztosító szolgáltatások - PV) használják ki a kiberbűnözők rosszindulatú kódok, hamis hangok, arcok, szövegek létrehozására... csalás elkövetésére, hálózatok megtámadására, adatrendszerekbe való beszivárgásra, sőt biztonsági instabilitás okozására, valamint szervezetek, vállalkozások és vezetők hírnevének rombolására.

Tran Ngoc Anh, a Cyber Peace Company Limited (CyPeace) műszaki igazgatója szerint az MI-felhasználók egyik kockázata, hogy maguk az eszközök által létrehozott hamis információkat kaphatnak. Emellett számos más probléma is felmerül, például a bizalmas információk, a személyes adatok nyilvánosságra hozatala...

A technológia etikai határok átlépésének megakadályozása - 1. kép.

A technológia etikai határok átlépésének megakadályozása - 2. kép.

Hamis képeket terjesztenek az interneten, hogy „könnyeket csaljanak a nézők szemébe”, ezáltal lájkokat vonzanak és növeljék az interakciókat (képernyőkép)

Növelje a felhasználói felelősséget

Mielőtt technológiai és jogi intézkedések lennének a mesterséges intelligencia fejlesztésének és használatának szigorú ellenőrzésére, a felhasználóknak proaktívan és felelősségteljesen kell használniuk ezt a technológiát.

Vu Ngoc Son kiberbiztonsági szakértő, a Nemzeti Kiberbiztonsági Szövetség Technológiai Osztályának vezetője rámutatott, hogy az emberek a mesterséges intelligencia kiaknázásának és használatának alanyai, így a mesterséges intelligencia jó és rossz oldalai szorosan kapcsolódnak az emberekhez. Ha a felhasználók képzettek és jó célokra használják, a technológia érvényesíteni fogja előnyös erősségeit. Ezzel szemben, ha a mesterséges intelligencia felhasználói nem értik, vagy illegális célokra használják fel, az súlyos következményekkel járhat. „A mesterséges intelligencia hatékony használatához és kiaknázásához csapatok és folyamatok építésére kell összpontosítani. A mesterséges intelligencia csak akkor növeli értékét, ha olyanok kezébe kerül, akik tudják, hogyan kell elsajátítani” – mondta a kiberbiztonsági szakértő.

A deepfake – napjaink vezető technológiai csalási eszköze – veszélyével kapcsolatban a Pénzügyminisztérium a Befektetési és Üzleti Törvény kidolgozása során azt is hangsúlyozta, hogy a deepfake technológiai üzletágat feltételes üzletágként kell szabályozni, hogy megakadályozzuk az információs zavarokat, csalásokat... okozó technológiai visszaéléseket. A Pénzügyminisztérium szerint jelenleg a deepfake technológiai üzletág az egyik új terület, amely összetett kockázatokat jelent a biztonságra és a rendre nézve, de nem szabályozott feltételes üzletágként.

Tran Anh Tuan ügyvéd (Hanoi Ügyvédi Kamara) szerint, ha mesterséges intelligenciát használnak tartalom létrehozására engedély nélkül, különösen hamis, hamis vagy csalárd információk létrehozására, az sértheti a Polgári Törvénykönyv rendelkezéseit. Ennek megfelelően a jogsértők közigazgatási szankciókkal vagy kártérítéssel sújthatók. Súlyos következmények esetén büntetőjogi felelősségre vonás is lehetséges. „A felhasználóknak óvatosnak kell lenniük a mesterséges intelligencia megközelítése és használata során, feltétlenül kerülniük kell a mesterséges intelligencia kihasználását megtekintések és lájkok szerzésére; fokozniuk kell a személyes felelősségüket, és be kell tartaniuk a törvényeket a mesterséges intelligencia használata során, valamint az online környezetben való részvétel során” – ajánlotta Tuan ügyvéd.

Nguyễn Minh Chinh altábornagy hangsúlyozta, hogy a fenntartható mesterséges intelligencia fejlesztésének központi tényezője az emberi erőforrás. A kutatóktól, mérnököktől, kiberbiztonsági szakértőktől kezdve a vezetőkig és a felhasználókig mindenkinek teljes mértékben fel kell vérteznie magát tudással, készségekkel, etikával és jogi tudatossággal. Chinh úr szerint ez a csapat nemcsak a mesterséges intelligencia rendszereket építő és üzemeltető csapat, hanem a kibertérben elkövetett csúcstechnológiás bűncselekmények megelőzésének, felderítésének és leküzdésének kulcsfontosságú ereje is.

Vietnámban törvény lesz a mesterséges intelligenciáról

Egy nemrégiben megrendezett, mesterséges intelligenciával foglalkozó országos tudományos konferencián Nguyễn Manh Hung tudományos és technológiai miniszter kijelentette, hogy a mesterséges intelligencia nagyszerű lehetőségeket nyit meg, de számos etikai, foglalkoztatási és társadalmi bizalommal kapcsolatos kérdést is felvet. Ezért a mesterséges intelligenciát gyorsan, biztonságosan és humánusan kell fejleszteni.

Nguyễn Manh Hung miniszter szerint a mesterséges intelligencia nem helyettesíti az embert, hanem szolgálja, segíti őt. A mesterséges intelligencia hatékony eszköz, de az emberek a döntéshozók, ezért a mesterséges intelligencia támogassa, ne pedig helyettesítse az emberi gondolkodást, értékeket és felelősséget. „A Tudományos és Technológiai Minisztérium kiad egy nemzeti MI Etikai Kódexet, amely összhangban van a nemzetközi szabványokkal, de a vietnami gyakorlathoz igazodik, és egyidejűleg kidolgoz egy MI-törvényt és MI-stratégiát” – tájékoztatott Nguyễn Manh Hung miniszter.

Forrás: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm