Mesterséges intelligencia által készített fotók és videók árasztják el a Facebookot: Látszólag ártalmatlanok, de rendkívül veszélyesek

Miközben a 42 éves Linh asszony a Facebookon egy négyes ikreket tartó katonapárról készült fotót böngészve nézegette, megszokásból azt írta: „Gratulálok nektek!”. Ezt azonban azonnal visszavonta, mert úgy érezte, hogy „valami nincs rendben”.

Újra ránézett, és rájött, hogy ez csak egy mesterséges intelligencia által készített fotó, amelyet egy Facebook-oldal használt egy érzelmes bejegyzés illusztrálására. Érdemes megemlíteni, hogy ez már a második alkalom volt, hogy a mesterséges intelligencia „majdnem” átverte. Ezt megelőzően a „nyugdíjasok találkoznak a nyári nyaralókkal” című videót is valódi emberekkel és valódi eseményekkel nézte.

A média területén dolgozó, mesterséges intelligencia által generált tartalmaknak rendszeresen kitett Linh asszonynak el kellett ismernie, hogy ez a technológia olyan gyorsan és kifinomultan fejlődött, hogy nehéz különbséget tenni a valódi és a hamis között.

A Facebookon virálissá vált fotót mesterséges intelligencia készítette. Képernyőkép.

A szakértők is egyetértenek ezzel a nézettel. Az olyan eszközök, mint a Google Veo 3, a Kling AI, a DALL·E 3, a Midjourney... elérték a hihetetlenül valósághű képek és videók készítésének képességét.

Do Nhu Lam úr, az ABAII Blokklánc Technológiai és Mesterséges Intelligencia Intézet képzési igazgatója rámutatott, hogy a multimodális technológiának és a fejlett nyelvi modelleknek köszönhetően ezek az eszközök képesek szinkronizálni a képeket, hangokat, arckifejezéseket és természetes mozdulatokat, így rendkívül meggyőző termékeket hozhatnak létre.

Do Nhu Lam úr, az ABAII Blokklánc Technológiai és Mesterséges Intelligencia Intézet képzési igazgatója elmondta, hogy a fejlett mesterséges intelligencia technológia rendkívül meggyőző termékeket eredményez. Fotó: NVCC

Lam úr megjegyezte, hogy a mesterséges intelligencia fejlődése hatalmas lehetőségeket nyit meg olyan területeken, mint a tartalomkészítés, a reklámozás, a szórakoztatás és az oktatás . Ez az „életszerű” újraalkotási képesség azonban számos kihívást is jelent az etika, az ellenőrzés és az információbiztonság terén, mivel a valóság és a virtualitás közötti határ egyre inkább elmosódik.

A Linh asszony által látott Facebook-bejegyzés közel 300 000 interakciót és több mint 16 000 hozzászólást vonzott. Sok felhasználó sietett gratulálni vagy kifejezni érzéseit anélkül, hogy tudta volna, hogy ez csak egy mesterséges intelligencia általi illusztráció. Néhány „józanabb” ember kritizálta a „netezőket, amiért túl naivak” ahhoz, hogy hagyják, hogy a mesterséges intelligencia becsapja őket.

A Facebook-csoportokban és fórumokon nem nehéz látni a felhasználók által készített és megosztott mesterséges intelligencia által készített videókat. Különösen a Google Veo 3 megjelenése javította jelentősen a videók minőségét, különösen a karakter szájának formájához igazodó hang esetében. Ha nem figyelünk oda alaposan, a nézők könnyen összezavarodhatnak.

Éberség megőrzése a mesterséges intelligencia korában

A mesterséges intelligencia által készített fényképeket és videókat nehéz megkülönböztetni, ami nagy kockázatot jelent a felhasználókra, különösen a technológiában nem jártas, kiszolgáltatott csoportokra. Vu Thanh Thang, az SCS Cyber ​​Security Joint Stock Company mesterséges intelligencia igazgatója (CAIO) szerint a mesterséges intelligenciát a kiberbűnözők csalásokra (biometrikus rendszerek, eKYC stb. megkerülésére) használják, híres embereknek adják ki magukat hamis információk terjesztésére, és zavart keltenek a nyilvánosságban. Számos olyan eset van, amikor a high-tech bűnözők kihasználják a mesterséges intelligenciát deepfake fotók készítésére, rokonok személyes adataival való videohívások lebonyolítására és pénzkivágásra.

Vu Thanh Thang úr, az SCS Cyber ​​​​Security Joint Stock Company mesterséges intelligencia (CAIO) igazgatója szerint egy olyan korszakba léptünk, ahol mindent meg lehet hamisítani. Fotó: NVCC

Thang úr szerint a vállalkozások is potenciális célpontjai lehetnek a mesterséges intelligencia alapú bűnözőknek. Az MI Deepfake segítségével alkalmazottakat adhatnak ki, biztonsági rendszereket megkerülve feloldhatják a jelenléti ívet, és üzleti vezetőket adhatnak ki a hírnév rágalmazása és rombolása érdekében.

Ugyanezzel a véleménnyel egyetértve, az ABAII képviselője, Do Nhu Lam úr három, a mesterséges intelligencia által az egyéni felhasználókra nézve okozott következményt emelt ki: pénzügyi csalást, hírnévrontást és személyes adatok kizsákmányolását. A vállalkozások számára az Arup vállalat 25 millió dolláros veszteséget szenvedett el, miután hongkongi fiókjának alkalmazottait becsapták egy deepfake videókonferencián való részvételre és a kért pénzátutalásokra.

Minden, amit a Veo 3-ról, a jelenlegi virális videókat generáló mesterséges intelligencia eszközről tudni kell A Google legújabb videógeneráló mesterséges intelligencia modellje – a Veo 3 – lenyűgöző módon képes valósághűen szinkronizált hangot létrehozni a képekkel.

Egy másik, ugyanilyen komoly kockázat, hogy amikor az emberek nem tudnak különbséget tenni a valódi és a hamis között, a médiába és a hivatalos hírforrásokba vetett közbizalom alábbhagy.

Lam úr a Reuters Institute 2024-es jelentésére hivatkozott, amely szerint a médiaplatformokon található híreket megbízó globális felhasználók aránya egy évtizede nem látott mélypontra esett, nagyrészt a deepfake tartalmak megjelenése miatt.

Vu Thanh Thang szakértő szerint „egy olyan korban élünk, amikor minden információ hamisítható, és már nem jelent „kockázatot”.” Ezért szükséges a tudatosság növelése, a személyes védelmi intézkedések alkalmazása, valamint a mesterséges intelligencia megismerése a békés élet érdekében.

A két szakértő azt javasolja, hogy a felhasználók mindig ellenőrizzék és hitelesítsék az információkat, mielőtt döntéseket hoznak; vértezzenek fel ismereteket a hamis tartalmak azonosítására; korlátozzák a személyes adatok online megosztását; és jelentsék a hamis tartalmak terjesztésének eseteit. „Csak proaktív és tájékozott módon tudják a felhasználók valóban megvédeni magukat és hozzájárulni a biztonságosabb kibertér kiépítéséhez a digitális korban” – mondta Lam úr.

A mesterséges intelligencia okozta emberiség kihalása miatt aggódva „keresztapa”, Yoshua Bengio tett valamit . A „keresztapa”, a mesterséges intelligencia, Yoshua Bengio nemrégiben megalapított egy nonprofit szervezetet azzal a céllal, hogy biztonságos mesterséges intelligencia rendszereket hozzon létre, ahelyett, hogy veszélyes személyiségeket mutasson az embereknek.

Forrás: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html