A mesterséges intelligencia kettőssége

A mesterséges intelligencia (MI) számos lehetőséget nyit meg, de veszélyes eszközzé is válik, amikor hamis deepfake videók készítésére használják fel, torzítva a rendőrség és a kormány imázsát, és felkorbácsolva a közvéleményt. Ezek a kifinomultan szerkesztett klipek nemcsak a hatóságokba vetett bizalmat rontják, hanem a pszichológiai hadviselés kifinomult formáját is jelentik a kibertérben.

Itt az ideje, hogy minden felhasználó „digitális pajzsmá” váljon, legyen éber, körültekintő és felelősségteljes minden kattintásért és megosztásért.

A mesterséges intelligencia előnyei és a lehetséges hátrányok

A mesterséges intelligencia soha nem volt még ilyen közel az élethez, mint manapság. Néhány kattintással, egy rövid paranccsal hangokat, képeket, sőt videókat is létrehozhatunk lenyűgözően valósághűen. A mesterséges intelligencia segít időt megtakarítani, csökkenteni a tartalomgyártási költségeket és megnyitni a rugalmas digitális média korszakát.

A „realisztikus szimuláció” képessége azonban kétélű fegyverré vált. Az utóbbi időben a közösségi hálózatokon folyamatosan jelennek meg a deepfake technológiával létrehozott videók, amelyeken rendőri vezetők arcát, érzékeny esetekben működő erők képeit... kivágják és beillesztik, torz hangokkal szinkronizálják, hogy félreértéseket keltsenek és megosztsák az embereket.

Az ehhez hasonló megrendezett képek egyre gyakrabban jelennek meg a közösségi médiában.

Egy TikTokon keringő klipben egy szolgálatban lévő közlekedési rendőr képét sértő párbeszédekkel párosították, a „bírság a dolog kedvéért” hashtaggel együtt, azt sugallva, hogy a rendőr személyes haszonszerzés céljából visszaél a hatalmával. Sok felhasználó, különösen a fiatalok, könnyen elhitte ezt a tartalmat, mivel a kép annyira realisztikus volt, a hang pedig annyira hasonlított a száj formájához, hogy rendkívül nehéz volt megkülönböztetni a valódit a hamistól.

Csupán azért, mert „fitogtatni” akarta a mesterséges intelligencia technológia alkalmazásának képességét, egy Dien Bien-i fiatal YouTubernek közigazgatási bírsággal kellett megküzdenie, és nyilvános bocsánatkérésre kényszerítették. Január 24-én délután a Dien Bien tartományi rendőrség bejelentette, hogy a Kiberbiztonsági és Csúcstechnológiai Bűnmegelőzési Osztály határozatot hozott Tong Van T. (2001-ben született, Muong Ang kerületben lakott) közigazgatási bírságáról, amiért mesterséges intelligencia segítségével torzított tartalmú hamis videót készített, és megsértette a közlekedési rendőröket.

Konkrétan január 7-én T. feltöltött a „Tuyền Vlog” YouTube-fiókra egy több mint 3 perces videót a következő megdöbbentő címmel: „Miközben lógtam, a közlekedési rendőrök üldözőbe vettek”. A klipben a képeket és helyzeteket mesterséges intelligencia technológiával rendezték el, szimulálva, hogy a közlekedési rendőrök üldözik az embereket, olyan effektekkel és megjegyzésekkel kombinálva, amelyek sértőek és rágalmazóak voltak a hatóságokra nézve.

A rendőrséggel együttműködve T. elismerte, hogy a klip teljes tartalma hamisított, „szórakoztatási” célú, és a mesterséges intelligencia technológia használatának képességét demonstrálja. A bírság mellett a hatóságok felkérték T.-t, hogy távolítsa el a fenti hamis videót, és nyilvánosan kérjen bocsánatot a közlekedési rendőröktől a személyes YouTube-csatornáján.

A digitális technológia robbanásszerű fejlődésének korában, különösen a mesterséges intelligencia gyors fejlődésének köszönhetően, az ellenséges és reakciós erők nem haboztak kihasználni ezt az eszközt kitalált képek és történetek létrehozására, azzal a céllal, hogy eltorzítsák és becsméreljék a Vietnami Népi Közbiztonsági Erők imázsát. A közösségi hálózatokon nemrég keringő fotó, amelyen egy rendőri egyenruhás terhes nőt két "gengszter" kinézetű férfi fenyeget, egyértelműen demonstrálja ezt a trükköt.

A mesterséges intelligencia által generált fotó nemrég terjedt el a közösségi médiában.

Első pillantásra a nézők könnyen összetéveszthetik ezt egy valós jelenettel, egy szenzációs főcímmel kísérve, mint például: „Szegény fiú megment egy terhes rendőrnőt a gengszterek verésétől, váratlanul egy olyan ügyet indít, amely sokkolja az egész országot...”. Valójában azonban ez csak egy megrendezett jelenet, esetleg egy filmből vagy szórakoztató termékből, vagy ami még rosszabb, egy mesterséges intelligencia által létrehozott kép, amely az olvasók érzelmeinek megtévesztésére szolgál, szánalomra és a bűnüldöző szervek tevékenységének hitelességében való kételkedésre késztetve őket.

Ami még aggasztóbb, hogy az ilyen tartalmak terjesztése nemcsak a Népi Közbiztonsági Erők hírnevét és imázsát károsítja, amelyek éjjel-nappal a társadalom biztonságát és rendjét védik, hanem a pszichológiai hadviselés kifinomult formája is. Amikor a hatóságokba vetett bizalmat hamis képek aláássák, az ellenséges erők mély célja, hogy megosztsák a nagy nemzeti egységblokkot, fokozatosan megvalósul.

Ezért minden állampolgárnak fokoznia kell az éberségét, kritikus gondolkodással kell rendelkeznie, és képesnek kell lennie a hamis információk azonosítására, valamint határozottan el kell ítélnie és cáfolnia a hamis tartalmakat, hozzájárulva az ideológiai alapok védelméhez és a társadalmi stabilitás fenntartásához a kibertérben jelenleg tapasztalható mérgező információhullámmal szemben.

Ho Si Minh-városban egy közel egyperces videó terjedt el hirtelen a közösségi médiában, amelyben egy rendőri egyenruhás személy egy irodában "vallomást zsarol ki" egy szabálysértőből. A videón a feltételezett rendőr durva viselkedést mutat, folyamatosan kiabál és szidalmaz, sőt durva szavakat is használ, ami felháborodást kelt a közvéleményben.

Azonban közvetlenül azután, hogy a klip vírusként terjedt, a Ho Si Minh-városi rendőrség gyorsan kivizsgálta az ügyet, és megerősítette, hogy egy kifinomult deepfake termékről van szó. A következtetés szerint a videón látható arcot a rendőrség egy belső konferenciájának felvételéről vették ki, majd a rosszfiúk mesterséges intelligencia technológiát használtak egy megrendezett jelenetbe illesztették, tévesen elhitetve a nézőkkel, hogy valódi akcióról van szó.
Különösen a kísérő hanganyag tartalmaz egy fenyegető, sértő hangot, amely valójában nem egyetlen hivatalos személy szava, hanem egy szintetizált mesterséges intelligencia hangja, amelyet úgy programoztak és szerkesztettek, hogy megtévessze a néző érzelmeit.

Az incidens tipikus példája a deepfake technológia használatának a Népi Közbiztonsági Erők eltorzítására és befeketítésére, egy olyan trükkre, amelyet a reakciós és kormányellenes erők egyre inkább kihasználnak a kibertérben. Érdemes megjegyezni, hogy ha nem leplezik le őket azonnal, az ilyen hamis termékek súlyos következményekkel járhatnak: megingathatják az emberek bizalmát a bűnüldöző erőkben, ellenállást szíthatnak a közösségben, és feltételeket teremthetnek a hamis érvek terjedéséhez. Ez egyértelmű figyelmeztetés a média kapacitásának javítására az álhírek cáfolatára, felderítésére és leküzdésére, ugyanakkor felszólít minden polgárt, hogy legyen éber, és ne rohanjon hivatalos forrásokból származó, ellenőrizetlen tartalmak megosztásával vagy kommentálásával.

Egy másik, nemrégiben történt esetben, amely egy dél-amerikai járművizsgáló központban történt szabálysértések kezelésével kapcsolatos, ellenséges személyek terjesztettek egy hamis videót, amelyen egy tartományi rendőrvezető a hibázó rendőrök védelmében szólal meg. A videó a Telegramon és a közösségi médiában terjedt „hatalmas erők támogatásával” címmel, de valójában mesterséges intelligencia terméke volt, amely semmilyen sajtótájékoztatón vagy hivatalos dokumentumban nem jelent meg.

Egy veszélyes trend terjed csendben a kibertérben, nevezetesen, hogy a rosszfiúk mesterséges intelligencia technológiát használnak hamis klipek készítésére csalás és zsarolás céljából. Az utóbbi időben sokan válnak áldozattá, amikor képeiket, különösen tekintélyes emberek, például ügyvédek, orvosok és üzletemberek képeit, reklámvideókká szerkesztik, amelyek "online átveréssel szerzett pénz visszaszerzését" célozzák.

Ezekben a klipekben a mesterséges intelligenciát arra használják, hogy meghamisítsák az ügyvéd hangját és arcát, bizalmat keltve a nézőkben, ezáltal könnyen személyes adatokat adva meg vagy pénzt utalva a csalónak. Még veszélyesebb, hogy egyes alanyok deepfake technológiát is használnak, hogy szexvideókba foglalják az áldozat arcát, majd elküldik azokat feleségüknek, férjüknek vagy kollégáiknak azzal a céllal, hogy megfenyegessék és pénzátutalásra kényszerítsék őket, hogy „titokban tartsák az ügyet”.

Megdöbbentő incidens történt 2025 márciusában, amikor egy hanoi áldozatot több tízmillió dong átutalására kértek, miután egy hamis szexklipet kapott a saját képével. Eközben Ho Si Minh-városban egy másik személyt akár 2 milliárd donggal is megzsaroltak, ha nem akarta, hogy az érzékeny videó elterjedjen. A Közbiztonsági Minisztérium közbelépett, és számos, főként Kínából és Délkelet-Ázsiából származó transznacionális bűnözői csoportot azonosított ezek mögött, akik szemét SIM-kártyákat, elektronikus pénztárcákat és közösségi hálózati platformokat használnak személyazonosságuk elrejtésére.

Ez már nem egy kis léptékű átverés, hanem egyfajta „csúcstechnológiás pszichológiai hadviselés”, amely mélyen kihasználja a becsülettől és a társas kapcsolatoktól való félelmet, hogy nyomást gyakoroljon az áldozatra. Ha nem növeli az éberségét, az információk és a szokatlan viselkedés azonosításának képességét, bárki „prédává” válhat a csúcstechnológiát használó bűnözők kezében. E kifinomult hamisítási hullámmal szemben minden állampolgárnak ébernek kell lennie, semmiképpen sem szabad megkülönböztetés nélkül megosztania személyes adatait, és készen kell állnia arra, hogy felszólaljon az illegális cselekmények elítélése érdekében, hozzájárulva saját és a közösség biztonságának védelméhez.

A közösség „digitális pajzsára” van szükség a deepfake fenyegetésének leküzdéséhez.

A Rádió-, Televízió- és Elektronikus Információs Minisztérium (Kulturális, Sport- és Turisztikai Minisztérium) szerint 2024-ben a vietnami digitális platformoknak több mint 4000, hamis és torzított információkat tartalmazó videót kellett eltávolítaniuk, amelyek többsége mesterséges intelligencia technológiával létrehozott termék volt, mint például a deepfake, a hangklónozás... Csak a TikTok - a fiatalok körében népszerű platform - több mint 1300 deepfake klip eltávolítását kérte, amelyek főként a rendőrséggel, a kormánnyal és a szociálpolitikával kapcsolatosak.

A technológiai robbanás korában a mesterséges intelligencia áttörési lehetőségeket nyit meg, de példátlan veszélyeket is rejt magában, különösen a torzított tartalmú deepfake termékeket, amelyek támadják a közintézmények hírnevét. A MICRI Médiakutató Intézet felmérése szerint: a vietnami közösségi média felhasználók 62%-a nem tud különbséget tenni a valódi és a hamis között a mainstream média vagy a hatóságok figyelmeztetése nélkül. Ez egy „kognitív rés”, amelyet a rossz erők alaposan kihasználnak a hamis információk terjesztésére, ami szociális pszichológiai zavarokat okoz.

Tong Van T. a rendőrségen.

Dr. Do Canh Thin vezérőrnagy, kriminológiai szakértő docens szerint a vezetőkről készült hamis videók készítése, hamis állítások szerkesztése vagy a rendőrség szakmai tevékenységének eltorzítása mesterséges intelligencia segítségével egy új, de különösen veszélyes trükk. „A deepfake nem pusztán egy szórakoztató termék, hanem a modern információs hadviselés egyik formája, amely képes lerombolni a bizalmat, társadalmi instabilitást okozni, és nagyon nehéz ellenőrizni” – jegyezte meg Do Canh Thin vezérőrnagy.

Valójában a mesterséges intelligencia által manipulált klipek nem ártalmatlanok, hanem gyakran olyan érzékeny témákat érintenek, mint a szabálysértések kezelése, bűncselekmények kivizsgálása, korrupció elleni küzdelem stb., ami zavart és gyanakvóvá teszi az embereket a bűnüldöző szervekkel szemben. Ami még aggasztóbb, hogy sok videót megosztanak olyan nagyobb platformokon, mint a YouTube és a TikTok, több százezer megtekintéssel, mielőtt eltávolítják őket, ami negatív virális hatást kelt.

Hoang Minh digitális média szakértő figyelmeztet: „Egyetlen megosztással vagy egyetlen lájkkal is, ha nem vagyunk óvatosak, álhírek terjesztőjévé válhatunk. Minden internetfelhasználónak meg kell értenie, hogy a digitális térben tanúsított viselkedésnek is valódi következményei vannak.”

Ebben az összefüggésben minden eddiginél fontosabb egy „digitális pajzs” kiépítése magától a közösségtől: azaz az éberség, az információimmunitás és a hálózati környezetért való felelősségvállalás. A technológia lehet semleges, de az, hogy az emberek hogyan használják, meghatározza, hogy a mesterséges intelligencia a fejlődés hajtóerejévé vagy a társadalmi bizalmat romboló erővé válik-e. Az ideológiai front fenntartása, a Népi Közbiztonság katonájának imázsának védelme a nemzetbiztonság alapjainak védelme, ami nemcsak a funkcionális szektor, hanem a digitális kor minden állampolgárának feladata is.

Forrás: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html