Képektől, videóktól a mesterséges intelligencia által vezérelt dalokig: Óvakodj a közösségi hálózatokon megjelenő mesterséges intelligencia által vezérelt tartalmak „tornádójától”

A mesterséges intelligenciát (MI) az online kereskedelmi tevékenységekben használják ki, az értékesítéstől a jótékonysági csalásokig, ami arra kényszeríti a szabályozó hatóságokat és a vállalkozásokat, hogy gyorsan megoldásokat találjanak a kockázatok azonosítására és kezelésére a mesterséges tartalmak korában.

Egyre több, mesterséges intelligencia által szerkesztett és hozzáadott kép és videó kerül fel a közösségi hálózatokra a megtekintések számának növelése érdekében - Fotó: DUC THIEN

Ha a múltban egy hamis fotó elkészítéséhez a normál felhasználóknak Photoshop szakértőket kellett felbérelniük, akkor ma a mesterséges intelligenciának köszönhetően kevesebb mint 5 perc alatt és néhány alapvető készséggel egy sor hamis fotó bárhol megjelenhet.

Amikor a mesterséges intelligencia képeket, videókat, dalokat hoz létre... annyira valóságosak, hogy nehéz elhinni

A Facebookon naponta böngésző Hoan My asszony (HCMC) – kommunikációs munkatárs – elmondta, hogy a felhasználók egyre több tartalmat tesznek közzé a mesterséges intelligencia eszközeinek beavatkozásával kapcsolatban.

„Sok olyan fotót posztoltak a barátaim vagy a csoport tagjai, amelyek annyira valóságosak, hogy nem tudnám megmondani, hogy mesterséges intelligenciát használtak-e, ha nem mondanák. Még több videót, az animációktól, a képzeletbeli jelenetektől a rövidfilmekig, vagy a valós életben megtörtént eseményekkel kapcsolatos videókat, mesterséges intelligencia segítségével készítenek, de én nem tudhatnám” – osztotta meg My asszony.

Nemcsak képek és videók, de még a YouTube közösségi oldalon is számos „mesterséges intelligencia által énekelt” dal található. Sok felhasználó izgatott az új élmény miatt, és versenyeznek, hogy megosszák azt barátaikkal a közösségi hálózatokon.

„Nem tudom megmondani, hogy egy mesterséges intelligencia által énekelt-e, ha nem jelentik be. A mesterséges intelligencia által támogatott tartalom egyre elterjedtebb Vietnam kibertérében. Az olyan átlagfelhasználók, mint én, valószínűleg hamarosan már nem fogják tudni, hogy melyik tartalom valódi emberektől származik, melyik mesterséges intelligenciától származik, vagy melyik mesterséges intelligencia beavatkozásán alapul” – mondta Khanh Ha (HCMC).

Az utóbbi időben számos vietnami közösségi oldal mutat be videókat és élő közvetítéseket, amelyek fogyatékkal élők termékeit árulják, ezáltal az online közösség szimpatikusabbá és megosztóbbá válik.

Az online közösség azonban később számos olyan esetet leplezett le, ahol mesterséges intelligenciát használtak arra, hogy normális embereket fogyatékkal élővé tegyenek. Ennek a trükknek a célja, hogy kihasználják a nézők együttérzését áruk eladására vagy csalárd tevékenységek végrehajtására.

Sok technológiai szakértő szerint az utóbbi időben egyre több olyan fiók jelenik meg a közösségi hálózatokon, amelyek fogyatékkal élő, beteg vagy hátrányos helyzetű emberek képeivel ellátott videókat tesznek közzé, hogy együttérzésre buzdítsanak. A valóság azonban azt mutatja, hogy ezeknek a tartalmaknak a nagy részét mesterséges intelligencia eszközeivel hozzák létre vagy szerkesztik, így a hétköznapi embereket haszonszerzés vagy csalás céljából fogyatékkal élővé változtatva.

Milko Radotic úr, az iProov – a világ vezető biometrikus hitelesítési technológiai szolgáltatójának – ázsiai és csendes-óceáni régiójáért felelős alelnöke Tuoi Tre-vel megosztva a következőket figyelmeztette: „Kutatásunk azt mutatja, hogy a résztvevők 99,9%-a nem ismeri fel a deepfake-eket. Még a mai fejlett észlelő eszközök is számos nehézséggel néznek szembe.”

Növelje a digitális felhasználók ellenállását

Dang Huu Son úr – az Alkalmazott Kutatási és Emberi Erőforrás Fejlesztési Intézet (AIOV) igazgatóhelyettese, a LovinBot AI Company alapítója és vezérigazgatója – elmondta, hogy mióta a Google piacra dobta a Nano Banana és a Veo 3 mesterséges intelligencia technológiát, a ByteDance a Seedream 4-et, és azt megelőzően az OpenAI a GPT Image-et, a mesterséges intelligencia piaca rendkívül pezsgővé vált, és számos következménnyel járt.

„A technológia még soha nem volt olyan elérhető, mint manapság. Ezek mind rendkívül hatékony mesterséges intelligencia modellek, amelyek az eredeti fotóhoz képest majdnem 90%-ban, sőt 99%-ban képesek „lemásolni” az arcokat”” – jegyezte meg Mr. Son.

Ha korábban egy hamis fotó elkészítéséhez a hétköznapi felhasználóknak Photoshop szakértőket kellett felbérelniük, akkor ma a mesterséges intelligenciának köszönhetően kevesebb mint 5 perc alatt, néhány alapvető készséggel, szédítő sebességgel terjedhet egy sor hamis fotó, egy kivágott és beillesztett hamis videó, amelyhez hírszerű effekteket adtak hozzá.

„Az álhírek sokszor ismétlődnek, nagy sűrűségben és könnyen hozzáférhetők, így nagyszámú ember, aki nap mint nap kapcsolatba kerül velük, el fogja hinni, hogy igazak. Ezért megoldásokra van szükség a fenti problémák korlátozására” – jegyezte meg Mr. Son.

Trinh Nguyen Thien Phuoc, a Gianty Vietnam Company technológiai igazgatója szerint a mesterséges intelligencia által generált tartalmak megkülönböztetéséhez három rétegre van szükség: (1) felhasználói ellenőrzési készségek (az aranyszabályokkal együtt); (2) technikai eszközök, mint például a tartalomhitelesítő adatok (C2PA), vízjel-azonosító jelek (SynthID, AudioSeal) és a deepfake-detektor; (3) koordinációs folyamat a kapcsolódó felek, például platformok, hálózatüzemeltetők, bankok... között.

Különösen az aranyszabályt kell nagyon gyorsan, 30-60 másodpercen belül betartani, beleértve: ne kattints furcsa linkekre, és látogass el a hivatalos alkalmazásba/weboldalra az ellenőrzéshez; azonnal állj meg, ha olyan kulcsszavakkal találkozol, amelyek cselekvésre kényszerítenek (OTP/pénzutalás/sürgős).

Ugyanakkor a felhasználóknak két független forrással kell ellenőrizniük a hírt, mielőtt hisznek; ellenőrizniük kell a dátumot, az időpontot és a kontextust (régi hírek álcázva újnak); hívják vissza a hivatalos számot, amelyet maguk találtak, ne használják mások által megadott számot; képekkel és videókkal a felhasználók visszakereshetnek kapcsolódó találatokat...

Sok szakértő úgy véli, hogy a mesterséges intelligencia által létrehozott hamis tartalmak hullámának kezelésére a legalapvetőbb megoldás a közvélemény tudatosságának növelése. Ahelyett, hogy csak a technikai intézkedésekre koncentrálnánk, képzési programokat, versenyeket vagy valós élethelyzetek szimulálását kell kidolgozni, hogy segítsünk az embereknek megváltoztatni információbeviteli szokásaikat.

A fiatalok, különösen a diákok számára az online versenyek, a hírességekkel vagy a KOL-okkal való médiakampányok kombinálása természetes vonzerőt teremthet, segítve őket a tanulásban és a tapasztalatszerzésben, miközben elsajátítják az álhírek és a hamis videók felismerésének készségét. Eközben az időseknek, különösen a vidéki területeken élőknek, ismerősebb és intuitívabb formákra van szükségük, mint például illusztrált szórólapok, oktatóvideók vagy vetítések a művelődési házakban és közösségi tevékenységekben.

„Egy olyan megközelítés, amely minden embercsoport számára megfelelő, segít szilárd, hosszú távú tudatossági alapot teremteni, ahelyett, hogy csak rövid távú tevékenységeknél állnánk meg. Például egyes egységek olyan bővítményeket fejlesztettek ki, amelyek telepíthetők a Chrome böngészőre, hogy támogassák a felhasználókat a hírek ellenőrzésében az interneten vagy a közösségi hálózatokon való böngészés során...” – osztotta meg Dang Huu Son úr.

Mesterséges intelligencia használata hamis mesterséges intelligencia észlelésére

A Honor telefoncég nemrégiben beépítette a mesterséges intelligenciával alapú mélyhamisítás-észlelési funkciót újonnan piacra dobott telefoncsaládjába. Ez a funkció 3 másodperc alatt képes elemezni a képeket és a hangokat, hogy figyelmeztessen a hamisítványokra olyan alkalmazásokban, mint a Messenger, a Zalo, a Viber vagy a Google Meet, így „digitális pajzsként” védi a felhasználókat a high-tech csalásoktól.

Korábban, 2025 szeptemberében a MoMo bejelentette együttműködését az iProov-val a Dynamic Liveness technológia bevezetésére, amely segít ellenőrizni a felhasználók valódiságát, a megfelelő személyazonossággal való rendelkezését és a tranzakció időpontjában való jelenlétüket, megakadályozva a deepfake, hamis videók vagy képek használatával elkövetett csalásokat.

A magas kockázatú ágazatokban, mint például a pénzügy, ez a biztonsági szint kulcsfontosságú a csalások megelőzése, a jogosulatlan hozzáférés megakadályozása és a felhasználók platformba vetett bizalmának fenntartása érdekében.

Vissza a témához

ERÉNY

Forrás: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm