A deepfake burjánzik – Senki sincs biztonságban az AI általi megszemélyesítési trükköktől

Hangutánzás, arcutánzás, ajakszinkron... A mesterséges intelligencia ma már nemcsak munkára és szórakoztatásra szolgál, hanem veszélyes kereskedelmi csalási eszközzé is válik. Hírességek, orvosok és még szerzetesek képeit is a mesterséges intelligencia személyesíti meg, hogy termékeket értékesítsen a közösségi hálózatokon. Az igazi emberek nem tudnak róla, és a vásárlók elveszítik a bizalmukat.

„Kölcsönzött arc” lenni áruk eladásához

„Nem számít, milyen az eredeti térdállapot, csak alkalmazd a módszerünket, garantáljuk, hogy 7 napon belül jelentősen javulni fog. Ha teljesen hatástalan, hajlandó vagyok 1 milliárd VND-t kártalanítani őszinte bocsánatkérésként. Ha valóban nem tapasztalsz semmilyen hatást, 100%-os visszatérítést vállalunk, és én magam is hajlandó vagyok 1 milliárd VND-t kártalanítani. Nem mindenki mer ilyet vállalni” – ezt osztotta meg egy híres női énekesnő, aki egy ízületi fájdalomcsillapító masszázskrémet reklámoz, de érdemes megemlíteni, hogy ezt a hirdetést teljes egészében mesterséges intelligencia készítette.

A fenti reklámklipet egy LShop nevű TikTok fiók használta fel, a női énekesnő képét, hangját és testbeszédét valósághű módon felhasználva, amit gondos megfigyelés nélkül nem lehet kimutatni. A fióknak közel 9000 követője, 67 000 lájkja van, és minden klipnek több ezer megtekintése van. Már önmagában a "reklám" videó , amely a fenti női énekesnő képét kölcsönzi, több mint 1000 lájkot és közel 100 vásárlási ösztönző hozzászólást vonzott.

Ugyanezzel a masszázskrémmel az értékesítési csatornák egy másik hamisított verziót is „gyártottak”, ezúttal egy orvost. A klipben a karakter határozottan fogadkozott: „Én vagyok Hanoi legrangosabb ortopéd orvosa, és garantálom, hogy még a legsúlyosabb meniszkuszszakadás is teljesen meggyógyítható mindössze 3 nap alatt. Ezt a gélt Vietnam legrangosabb ortopéd szövetsége tanúsította.” Ezt a termékcsaládot a mesterséges intelligencia számos más „orvos” számára alkotta meg, így a nézők könnyen összetéveszthetik a valódival.

A klip közel 4000 lájkot és több mint 120 hozzászólást kapott, de amikor üzenetet küldtünk a rendelés leadásához, a fiók nem válaszolt, és a komment szekcióban sem kommunikált a nézőkkel, csak a kosárban hagyta a terméket közvetlen vásárlás céljából. Figyelemre méltó, hogy az eladó termék Kínából származott, és a termékinformációk nagyon homályosak voltak.

Az énekesektől, hírességektől az orvosokig, mindannyiukat megszemélyesítették már az értékesítési csatornák, amelyek mesterséges intelligencia által készített klipeket készítenek egészségügyi termékek értékesítésére.

De nem áll meg itt, a deepfake trükk a spirituális kérdésekre is átterjedt. Egy Phat Phap NM nevű TikTok-fiók nemcsak TPH mester előadásait tette közzé újra, hanem mesterséges intelligencia technológiát használt, hogy képeket készítsen a „mesterről”, amint olyan termékeket árul, mint a bodhi levelek és az agarfa karkötők.

Amikor a nézők vásárlási kérést hagytak kommentekben, a csatorna így válaszolt: „Ha a dolgok nem a vártnak megfelelően alakulnak, menj a fiókomban a „kiállítás” részlegre, és válaszd ki, amire szükséged van, ne fukarkodj az aprópénzzel, és ne hagyd figyelmen kívül a nagyobbat.” Közvetlenül ezután maga a szerzetes is kénytelen volt tisztázni, hogy soha nem reklámozott és nem is vett részt ilyen termékek forgalmazásában.

A kreativitás és a jogsértés közötti határvonal

Ngo Minh Hieu (Hieu PC), a Nemzeti Kiberbiztonsági Megfigyelőközpont (NCSC) kiberbiztonsági szakértője elmondta, hogy a közösségi hálózatokon terjedő hamis reklámklipeket főként Deepfake szoftverekkel készítik. Ezek a szoftverek nem ritkák, sok szolgáltatás olcsó és nagyon egyszerű kezelésű csomagokat is kínál. Bár vannak pozitív alkalmazások a digitális tartalomkészítés és a médiagyártás területén, Hieu úr szerint a probléma abban rejlik, hogy egyesek negatív célokra, például csalásra, személyazonosság-hamisításra, álhírek terjesztésére vagy mások rágalmazására használják fel, olyan videókkal, amelyek valódinak tűnnek.

Mr. Hieu néhány jelet is megadott a deepfake klipek azonosítására, például a videóban kissé merev arckifejezéseket, a száj formáit és a párbeszédekhez nem illő mozdulatokat... Mr. Hieu figyelmeztetett, hogy voltak komolyabb helyzetek is, amikor mesterséges intelligenciát használtak arra, hogy áldozatok arcát illesztsék be érzékeny videókba megfélemlítés, kényszerítés és haszonszerzés céljából.

Tran Duc Phuong, a Ho Si Minh-városi Ügyvédi Kamara ügyvédje szerint a hírességek (vagy konkrét személyek) képeinek mesterséges intelligencia általi, beleegyezésük nélküli létrehozásának minősül a személyiségi jogok, különösen a képmáshoz való jog megsértése, ahogyan azt a 2015-ös Polgári Törvénykönyv 32. cikke kimondja. A törvény kimondja: „Az egyéneknek joguk van a saját képmáshoz. Egy személy képmásának felhasználásához az adott személynek hozzá kell járulnia. Egy kép kereskedelmi célú felhasználásáért kártérítést kell fizetni annak a személynek, akinek a képmását felhasználják, kivéve, ha a felek másként állapodtak meg.”

Tehát, ha egy közösségi hálózati fiók tulajdonosa engedély nélkül mesterséges intelligencia által létrehozott képeket használ valódi fotókból, régi videókból stb. reklámozási vagy értékesítési célokra, akkor törvényt sért. Ha egy kép felhasználása sérti e cikk rendelkezéseit, a képpel rendelkező személynek joga van kérni a bíróságtól, hogy olyan határozatot hozzon, amely a jogsértőt, az illetékes ügynökségeket, szervezeteket és magánszemélyeket a kép visszavonására, megsemmisítésére és felhasználásának megszüntetésére, a károk megtérítésére és a törvény rendelkezéseinek megfelelő egyéb intézkedések alkalmazására kötelezi.

CAM NUONG

Forrás: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html