A deepfake-ek elharapóznak – Senki sincs biztonságban az AI általi megszemélyesítési trükköktől

Hangutánzás, arcutánzás, ajakszinkron... A mesterséges intelligencia ma már nemcsak munkára és szórakoztatásra szolgál, hanem veszélyes kereskedelmi csalási eszközzé is válik. Hírességek, orvosok és még szerzetesek képeit is a mesterséges intelligencia személyesíti meg, hogy termékeket értékesítsen a közösségi hálózatokon. Az igazi emberek nem tudnak róla, és a vásárlók elveszítik a bizalmukat.

„Kölcsönzött arc” lenni áruk eladásához

„Bármi is legyen az eredeti térdprobléma, csak alkalmazza a módszerünket, garantáljuk, hogy 7 napon belül jelentősen javulni fog. Ha teljesen hatástalan, hajlandó vagyok 1 milliárd VND-t kártalanítani őszinte bocsánatkérésként. Ha valóban nem tapasztal semmilyen hatást, 100%-os visszatérítést vállalunk, és én magam is hajlandó vagyok 1 milliárd VND-t kártalanítani. Nem mindenki mer ilyet vállalni” – ezt osztotta meg egy híres női énekesnő, aki egy ízületi fájdalomcsillapító masszázskrémet reklámoz, de érdemes megemlíteni, hogy ezt a hirdetést teljes egészében mesterséges intelligencia készítette.

A fenti reklámklipet egy LShop nevű TikTok-fiók használta, amely az énekes képét, hangját és testbeszédét valósághű módon használta fel, amit gondos megfigyelés nélkül nem lehet észrevenni. A fióknak közel 9000 követője, 67 000 lájkja van, és minden klipnek több ezer megtekintése van. Csak az énekes képét használó „reklám” videó több mint 1000 lájkot és közel 100 vásárlási ösztönző hozzászólást kapott.

Ugyanezzel a masszázskrémmel az értékesítési csatornák egy másik hamisított verziót is „gyártottak”, ezúttal egy orvost. A klipben a karakter határozottan megígérte: „Én vagyok Hanoi legrangosabb ortopéd orvosa, és garantálom, hogy még a legsúlyosabb meniszkuszszakadást is teljesen meg lehet gyógyítani mindössze 3 nap alatt. Ezt a gélt Vietnam legrangosabb ortopéd szövetsége tanúsította.” Ezt a termékcsaládot a mesterséges intelligencia számos más „orvos” számára alkotta meg, így a nézők könnyen összetéveszthetik a valódival.

A klip közel 4000 lájkot és több mint 120 hozzászólást kapott, de amikor üzenetet küldtünk a vásárlási kísérletünkre, a fiók nem válaszolt, és nem is kommunikált a nézőkkel a komment szekcióban, csak a kosárban hagyta a terméket közvetlen vásárlás céljából. Figyelemre méltó, hogy az eladó termék Kínából származik, és a termékinformációk nagyon homályosak.

Az énekesektől, hírességektől az orvosokig, mindannyiukat megszemélyesítették már az értékesítési csatornák, amelyek mesterséges intelligencia által készített klipeket készítenek egészségügyi termékek értékesítésére.

De nem áll meg itt, a deepfake trükk a spirituális kérdésekre is átterjedt. Egy Phat Phap NM nevű TikTok-fiók nemcsak TPH mester előadásait osztja meg újra, hanem mesterséges intelligencia technológiát használva képeket is készít a „mesterről”, amint olyan termékeket árul, mint a bodhi levelek és az agarfa karkötők.

Amikor a nézők vásárlási kérést hagytak kommentekben, a csatorna így reagált: „Ha a dolgok nem a tervek szerint alakulnak, menj a fiókomban a „kiállítás” részlegre, és válaszd ki, amire szükséged van, ne fukarkodj az aprópénzzel, és ne hagyd figyelmen kívül a nagyobbat.” Közvetlenül ezután maga a szerzetes is megszólalt, hogy tisztázza, soha nem reklámozott és nem is vett részt ilyen termékekkel.

A kreativitás és a jogsértés közötti határvonal

Ngo Minh Hieu (Hieu PC), a Nemzeti Kiberbiztonsági Megfigyelőközpont (NCSC) kiberbiztonsági szakértője elmondta, hogy a közösségi hálózatokon terjedő hamis reklámklipeket főként Deepfake szoftverekkel készítik. Ez a szoftver nem ritka, sőt sok szolgáltatás alacsony költségű és nagyon egyszerű kezelésű csomagokat is kínál. Bár vannak pozitív alkalmazások a digitális tartalomkészítés és a médiagyártás területén, Hieu úr szerint a probléma abban rejlik, hogy egyesek negatív célokra, például csalásra, személyazonosság-hamisításra, álhírek terjesztésére vagy mások rágalmazására használják fel ezt a technológiát olyan videókon keresztül, amelyek valódinak tűnnek.

Mr. Hieu néhány jelet is megadott a deepfake klipek azonosítására, például a videóban kissé merev arckifejezéseket, a száj formáit és a mozdulatokat, amelyek nem illeszkednek a párbeszédekhez... Mr. Hieu figyelmeztetett, hogy voltak súlyosabb helyzetek is, amikor mesterséges intelligenciát használtak áldozatok arcának érzékeny videókra való beillesztésére megfélemlítés, kényszerítés és haszonszerzés céljából.

Tran Duc Phuong, a Ho Si Minh-városi Ügyvédi Kamara ügyvédje szerint a hírességek (vagy konkrét személyek) képeinek mesterséges intelligencia általi létrehozása az ő beleegyezésük nélkül a személyiségi jogok, különösen a képmáshoz való jog megsértését jelenti, ahogyan azt a 2015-ös Polgári Törvénykönyv 32. cikke kimondja. A törvény kimondja: „Az egyéneknek joguk van a saját képmáshoz. Egy személy képmásának felhasználásához az adott személy hozzájárulása szükséges. Egy kép kereskedelmi célú felhasználásáért díjazást kell fizetni annak a személynek, akinek a képmását felhasználják, kivéve, ha a felek másként állapodtak meg.”

Tehát, ha egy közösségi hálózati fiók tulajdonosa engedély nélkül mesterséges intelligencia által létrehozott képeket használ valódi fotókból, régi videókból stb. reklámozási vagy értékesítési célokra, akkor törvényt sért. Ha egy kép felhasználása sérti e cikk rendelkezéseit, a képpel rendelkező személynek joga van kérni a bíróságtól, hogy olyan határozatot hozzon, amely a jogsértőt, az illetékes ügynökségeket, szervezeteket és magánszemélyeket a kép visszavonására, megsemmisítésére és felhasználásának megszüntetésére, a károk megtérítésére és egyéb intézkedések alkalmazására kötelezi a törvény rendelkezéseivel összhangban.

CAM NUONG

Forrás: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html