Deepfake-urile sunt larg răspândite - nimeni nu este ferit de trucurile de uzurpare a identității bazate pe inteligență artificială.

Imitarea vocii, imitarea feței, sincronizarea buzelor... IA nu mai este doar pentru muncă sau divertisment; devine un instrument periculos pentru frauda comercială. Imagini cu celebrități, medici și chiar călugări budiști sunt imitate de IA pentru a vinde produse pe scară largă pe rețelele de socializare. Oamenii reali nu sunt conștienți, iar cumpărătorii își pierd încrederea.

A fi „folosit” pentru a vinde produse.

„Indiferent de starea inițială a genunchiului dumneavoastră, aplicați metoda noastră și vă garantăm o îmbunătățire semnificativă în termen de 7 zile. Dacă nu există absolut niciun efect, sunt dispus să plătesc 1 miliard de VND drept scuze sincere. Dacă nu observați cu adevărat niciun efect, vă garantăm o rambursare de 100%, iar eu însămi sunt dispus să vă compensez cu 1 miliard de VND. Nu toată lumea îndrăznește să își asume un astfel de angajament”, aceasta este declarația unei celebre cântărețe care face reclamă unei creme de masaj analgezice pentru articulații, dar ceea ce este demn de remarcat este că această reclamă a fost creată în întregime folosind inteligența artificială.

Clipul publicitar menționat anterior, creat de un cont TikTok numit LShop, folosește imaginea, vocea și limbajul corpului cântăreței într-un mod care este nedetectabil fără o observare atentă. Acest cont are aproape 9.000 de urmăritori, 67.000 de aprecieri, iar fiecare clip primește mii de vizualizări. Videoclipul în care apare cântăreața a acumulat peste 1.000 de aprecieri și aproape 100 de comentarii care solicită achiziții.

Pe lângă acea cremă de masaj, canalele de vânzări au „produs” și o altă versiune deepfake, de data aceasta cu un medic. În videoclip, personajul promite cu încredere: „Sunt cel mai reputat medic ortoped din Hanoi și garantez că până și cele mai severe rupturi de menisc pot fi complet vindecate în doar 3 zile. Acest gel a fost certificat de cea mai prestigioasă asociație ortopedică din Vietnam.” Acest dialog este recreat de inteligența artificială pentru o serie de alți „medici”, făcându-i pe spectatori să creadă cu ușurință că este real.

Videoclipul a atras aproape 4.000 de aprecieri și peste 120 de comentarii, dar când am trimis un mesaj vânzătorului pentru a plasa o comandă, contul nu a răspuns și nu a interacționat cu spectatorii în secțiunea de comentarii; au lăsat produsul în coșul de cumpărături doar pentru achiziție directă. În special, produsul promovat provenea din China, iar informațiile despre produs erau foarte vagi.

De la cântăreți și vedete până la medici, toată lumea este vizată de canale de vânzare care creează videoclipuri false generate de inteligență artificială, care se prefac că vând produse legate de sănătate.

Escrocheria de tip deepfake nu s-a oprit aici; s-a extins chiar și la probleme spirituale. Un cont TikTok numit Phật Pháp NM nu numai că a repostat prelegerile Venerabilului TPH, dar a folosit și tehnologia inteligenței artificiale pentru a crea imagini cu „Venerabilul” pentru a vinde produse precum frunze de Bodhi și brățări din lemn de agar.

Când spectatorii au lăsat comentarii în care solicitau să cumpere, canalul a răspuns: „Dacă lucrurile nu sunt pe placul dumneavoastră, vă rog să accesați secțiunea de afișare din contul meu și să alegeți ceea ce aveți nevoie. Nu fiți zgârciți cu o sumă mică și să ratați ceva mai mare.” La scurt timp după aceea, călugărul însuși a trebuit să clarifice că nu a făcut niciodată reclamă și nici nu a fost implicat în astfel de produse.

Linia dintre creativitate și încălcarea drepturilor individuale.

Potrivit expertului în securitate cibernetică Ngo Minh Hieu (Hieu PC) de la Centrul Național de Monitorizare a Securității Cibernetice (NCSC), clipurile publicitare false care circulă pe rețelele de socializare sunt create în principal folosind software-ul Deepfake. Acest software nu este neobișnuit; multe servicii oferă chiar și pachete la costuri reduse și cu o operare foarte simplă. Deși are aplicații pozitive în crearea de conținut digital și producția media, dl. Hieu consideră că problema constă în faptul că unele persoane au exploatat această tehnologie în scopuri negative, cum ar fi frauda, ​​uzurparea identității, răspândirea de știri false sau defăimarea altora prin intermediul unor videoclipuri care par autentice.

Dl. Hieu a subliniat, de asemenea, câteva semne care ajută la identificarea clipurilor deepfake, cum ar fi expresiile faciale rigide din videoclip, mișcările gurii și ale buzelor care nu se potrivesc cu dialogul... Dl. Hieu a avertizat că au existat situații mai grave în care inteligența artificială a fost utilizată pentru a suprapune fețele victimelor pe videoclipuri sensibile în scopul intimidării, constrângerii și obținerii de profit.

Potrivit avocatului Tran Duc Phuong de la Asociația Baroului din Ho Chi Minh City, utilizarea inteligenței artificiale pentru a crea imagini ale unor celebrități (sau ale unor persoane specifice) fără consimțământul acestora reprezintă o încălcare a drepturilor personale, în special a dreptului la propria imagine, așa cum este stipulat în articolul 32 din Codul Civil din 2015. Legea prevede: „Persoanele au dreptul la propria imagine. Utilizarea imaginii unei persoane trebuie să se facă cu consimțământul acesteia. Utilizarea unei imagini în scopuri comerciale necesită compensații pentru persoana a cărei imagine este utilizată, cu excepția cazului în care părțile convin altfel.”

Prin urmare, dacă titularul unui cont de socializare utilizează imagini generate de inteligența artificială din fotografii reale, videoclipuri vechi etc., în scopuri publicitare sau de vânzare, fără permisiune, acesta încalcă legea. Dacă utilizarea imaginilor încalcă această prevedere, persoana a cărei imagine este utilizată are dreptul să solicite o hotărâre judecătorească prin care să oblige contravenientul, agenția, organizația sau persoana relevantă să retragă, să distrugă și să înceteze utilizarea imaginii, să despăgubească daunele și să aplice alte sancțiuni legale.

CAM NUONG

Sursă: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html