Óvakodjon a mesterséges intelligencia által generált képektől, ha az információbiztonság veszélyben van

A gyors technológiai fejlődés korában a mesterséges intelligencia (MI) képalkotási trendje terjed a közösségi oldalakon, felkeltve sok felhasználó, különösen a fiatalok figyelmét. A mesterséges intelligencia segítségével készült fotók rendkívül kreatívak, szórakoztatási célokat szolgálnak, személyre szabják a tartalmakat és kifejezik a személyiséget. E vonzerő mögött azonban potenciális biztonsági és információbiztonsági kockázatok húzódnak meg.

Szórakozás vagy potenciális kiváltó ok?

A hanoi rendőrség szerint az utóbbi időben trenddé vált a mesterséges intelligencia (MI) használata képek készítésére, ami sok felhasználó figyelmét felkelti. Bár elsősorban szórakoztatási célokat szolgálnak, ezeknek a képeknek a terjedése számos potenciális kockázatot hordoz magában, közvetlenül befolyásolva az információbiztonságot, különösen az augusztusi forradalom 80. évfordulója és az ország szeptember 2-i nemzeti ünnepe idején.

Jelenleg a felhasználók könnyen hozzáférhetnek és létrehozhatnak képeket mesterséges intelligencia szoftverek segítségével, és ezeket a képeket avatarként, hírként és cikkként használhatják olyan közösségi oldalakon, mint a Zalo, a Tiktok, a Facebook stb. Ha azonban a felhasználók nem körültekintőek, politikailag érzéketlenek, és nem ellenőrzik a mesterséges intelligencia által generált képeket, pontatlan képeket használhatnak, például Vietnam térképének képeit, amelyekről hiányoznak a Hoang Sa és a Truong Sa szigetcsoportokkal kapcsolatos információk; olyan képeket, amelyek nem alkalmasak a vietnami emberek számára. Ezeknek a pontatlan képeknek a használata nagyban befolyásolja a közvéleményt a kibertérben, és téves képet alakíthat ki a határok szuverenitásával kapcsolatos kérdésekről, valamint a történelemről és a nemzeti kulturális hagyományokról.

A mesterséges intelligencia Ao Dai képét nyomtatta ki, amelyről hiányzik a Hoang Sa - Truong Sa szigetcsoport térképe. (Fotó: Hanoi Városi Rendőrség)

Egy hanoi közösségi média felhasználó mesterséges intelligencia segítségével készített egy fotót egy ao dai-ról, amelyre egy Vietnám térképe volt nyomtatva, majd a képet feltöltötte a TikTokra, hogy reagáljon a „nemzeti büszkeség” trendjére. A mesterséges intelligencia által készített képről azonban hiányoztak a Hoang Sa és a Truong Sa szigetcsoportok. A bejegyzés gyorsan virálissá vált, több ezer megtekintést és megosztást vonzott, de az online közösségben is heves reakciókat váltott ki. A hatóságok közbeléptek, követelve a tartalom eltávolítását, és figyelmeztetve a nemzeti szuverenitásra vonatkozó hamis információk terjesztésére.

Figyelmeztetés a hatóságoktól

Vu Ngoc Son, a Vietnami Nemzeti Kiberbiztonsági Technológiai Vállalat (NCS) műszaki igazgatója szerint az utóbbi időben a mesterséges intelligencia és a mesterséges intelligencia alapú alkalmazások az élet számos területén nagyon erőteljesen fejlődtek. A ChatGPT valójában egy olyan alkalmazás, amely könnyen elérhető a legtöbb nem informatikai szakember számára, így gyorsan lázba hozta a közönséget.

Technológiai szempontból a ChatGPT nem jelent áttörést más, mesterséges intelligencián alapuló technológiákhoz képest, de adatok tekintetében a ChatGPT nagyon sikeresnek bizonyult, amikor hatalmas mennyiségű adatra támaszkodott számos területen, azt az érzést keltve a felhasználókban, hogy „mindent tudnak”. Ez is a ChatGPT vonzereje eddig.

Biztonsági szempontból magát a ChatGPT-t kérdés-felelek szolgáltatás nyújtására hozták létre, így a legnagyobb kockázat az, hogy a ChatGPT által a felhasználóknak megválaszolt tartalmakat valaki ellenőrzi vagy "megmérgezi", hogy a ChatGPT hamis információkat szolgáltasson. Jelenleg nincs bizonyíték arra, hogy a ChatGPT megtámadható lenne, mivel a bemeneti adatokat emberek ellenőrzik, szűrik, sőt címkézik is a cég, így a fenti kockázatok korlátozottak. A jövőben azonban, amikor ez a szolgáltatás tovább bővül, a további bemeneti adatok iránti igény drámaian megnő, az adatkezelés kockázatai pedig szigorúbb biztonsági intézkedéseket igényelnek a gyártóktól.

A mesterséges intelligencia által támogatott szoftverek számos előnnyel járhatnak, beleértve a vonzó, kreatív képek létrehozásának lehetőségét, de felelőtlen használat esetén „kétélű fegyverré” válhatnak. A Hanoi Városi Rendőrség Kiberbiztonsági és Csúcstechnológiai Bűnmegelőzési Osztálya azt javasolja, hogy az emberek:

1. Semmiképpen se készítsen és használjon Vietnam térképéről készült, helytelen, a jogszabályokat sértő vagy a vietnami hagyományokkal, szokásokkal és kultúrával ellentétes képeket.

2. Rendszeresen osszon meg figyelmeztető információkat rokonaival, barátaival és a közösséggel a tudatosság növelése és az ellenséges erők cselszövéseinek és trükkjeinek megelőzése érdekében. Ne engedje, hogy az alattvalói az ország fontos politikai eseményeit illegális cselekmények elkövetésére használják fel.

3. Legyen óvatos nem ellenőrzött mesterséges intelligencia alkalmazások telepítésekor és használatakor, hogy elkerülje a személyes adatai gyűjtésének kockázatát.

4. Legyen felelősségtudatod önmagaddal és a közösséggel szemben, amikor közösségi oldalakon zajló tevékenységekben veszel részt.

A szabálysértéseket szigorúan a törvényi előírásoknak megfelelően fogják kezelni.

Felhasználóként mindenkinek egyértelmű felelősségérzettel kell rendelkeznie a kibertérben való részvétel során. A „trendek követése” nem jelenthet tudatlanságot vagy a helytelen cselekedetek akaratlan támogatását. Ami a médiát illeti, a feladat nemcsak a hírek közlése, hanem a közvélemény formálása is, hozzájárulva az igazság és a nemzeti értékek védelméhez.

Forrás: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html