Terjednek a deepfake-ek, és egyre fokozódik a mesterséges intelligencia versenye a tűzzel való harcért.

AI - Ảnh 1. — A Deepfake elleni küzdelem, ahogy a mesterséges intelligencia egyszerre „fegyverré” és „pajzská” válik

A mesterséges intelligencia korában a kiberbűnözők és a biztonsági cégek közötti konfrontáció már nem pusztán technológiai verseny, hanem az egyre kifinomultabb hamis tartalmak által aláásott bizalom visszaszerzésére irányuló erőfeszítés.

Amikor már nem megbízható, amit látsz és hallasz.

Néhány évvel ezelőtt a felhasználók még meglehetősen „nyers” jelek, például természetellenes arckifejezések, össze nem illő szájmozgások vagy szokatlan szemmozgások alapján is felismerhették a deepfake-eket. Ezek a módszerek azonban gyorsan elavultak a mesterséges intelligencia technológia fejlődésével.

Jelenleg a mesterséges intelligencia nagyon nagy pontossággal képes képeket és hangokat újraalkotni, sőt, az emberi hang finom rezgéseit is szimulálja. Gaby Del Valle újságíró kísérletében a mesterséges intelligencia rendszer mindössze 9 másodpercnyi közösségi médiából gyűjtött hanganyag felhasználásával létrehozott egy hamis verziót, amely szinte meggyőzően képes fenntartani egy beszélgetést.

A mindennapi életben az intuíció továbbra is segíthet az embereknek észrevenni az anomáliákat. A munkahelyen vagy a pénzügyi tranzakciók során azonban – ahol az információkat gyorsan feldolgozzák, és az idő létfontosságú – ezeket a gyanús jeleket könnyen figyelmen kívül hagyják, ami növeli a csalás kockázatát.

A deepfake-ek már nem korlátozódnak az online szórakoztató tartalmakra; a kiberbűnözők mostantól szervezett csalásokra használják ki őket. Nyilvánosan elérhető adatokat gyűjthetnek a közösségi médiában, hogy egy „hangbankot” hozzanak létre a vállalat alkalmazottaiból, majd mesterséges intelligencia segítségével vezetők vagy kollégák személyazonosságát kihasználva pénzátutalást kérő hívásokat kezdeményezzenek.

Az ilyen esetek okozta kár jelentős. Minden egyes deepfake átverés több százezer dollárba kerülhet a vállalkozásoknak. Aggasztó módon a forgatókönyvek gyakran kihasználják az áldozat sürgősségi érzését – például egy szeretett személyazonosságát adják ki segítségért –, ami miatt nagyon rövid időn belül leengedik a védelem szintjét.

„Tűzzel oltjuk a tüzet” mesterséges intelligencia segítségével

Ennek leküzdésére számos biztonsági startup fordított megközelítést választ: magát a mesterséges intelligenciát használja a deepfake-ek észlelésére.

Az egyik gyakori megközelítés a gépi tanulásban alkalmazott „tanár-tanítvány” modell. A rendszert nagy mennyiségű valós és hamis adat felhasználásával képezik ki, hogy megtanulja azonosítani azokat a technikai nyomokat, amelyeket az emberek szabad szemmel nem látnak.

Ez a megközelítés egy folyamatos ciklust hoz létre: ahogy a deepfake-ek egyre kifinomultabbá válnak, az érzékelő rendszereket folyamatosan fejleszteni kell, hogy lépést tartsanak velük. A versenynek ezért úgy tűnik, nincs vége.

A kihívás azonban abban rejlik, hogy a hamis tartalmak létrehozásának költsége egyre olcsóbb a mesterséges intelligencia modellek széles körű elterjedésének köszönhetően, miközben a felderítés és a védekezés lényegesen több erőforrást igényel.

Egy új megközelítés a tartalom eredetének ellenőrzésére szolgáló szabványok létrehozása, amelyek segítenek a felhasználóknak megtudni, honnan származnak az adatok, és hogy szerkesztették-e azokat. Ez a megoldás azonban továbbra is ki van téve a hamisítás kockázatának, ha nincs szigorú ellenőrző rendszer.

Hosszú távon a deepfake-észlelő eszközök várhatóan az alapértelmezett védelmi réteggé válnak, közvetlenül a böngészőkbe, digitális platformokba vagy internetes infrastruktúrába integrálva – hasonlóan a mai víruskereső szoftverek szerepéhez.

Vissza a témához

KELETI-TENGER

Forrás: https://tuoitre.vn/deepfake-lan-rong-cuoc-dua-ai-lay-doc-tri-doc-nong-len-2026042808084971.htm