De la imagini și videoclipuri la melodii cu inteligență artificială: Atenție la „tornada” de conținut cu inteligență artificială de pe rețelele sociale

Inteligența artificială (IA) este exploatată în activitățile comerciale online, de la vânzări la fraudele caritabile, obligând autoritățile de reglementare și companiile să găsească rapid soluții pentru a identifica și controla riscurile în era conținutului artificial.

Tot mai multe imagini și videoclipuri editate și adăugate de inteligența artificială sunt postate pe rețelele de socializare pentru a atrage vizualizări - Foto: DUC THIEN

Dacă în trecut, pentru a crea o fotografie falsă, utilizatorii obișnuiți trebuiau să angajeze experți în Photoshop, cu AI astăzi, în mai puțin de 5 minute și cu câteva abilități de bază, un set de fotografii false poate apărea peste tot.

Când inteligența artificială creează imagini, videoclipuri, melodii... atât de reale încât e greu de crezut

Navigând regulat pe Facebook în fiecare zi, dna Hoan My (HCMC) - o persoană din echipa de comunicare - a declarat că utilizatorii postează din ce în ce mai mult conținut cu ajutorul instrumentelor de inteligență artificială.

„Există multe fotografii postate de prieteni sau membri ai grupurilor care sunt atât de reale încât nu aș putea să-mi dau seama dacă s-a folosit inteligența artificială dacă nu mi-ar spune. Tot mai multe videoclipuri, de la animații, imaginații la scurtmetraje sau videoclipuri legate de un eveniment care se întâmplă în viața reală, sunt create de instrumente de inteligență artificială, dar eu nu aș putea ști”, a declarat dna My.

Nu doar imagini și videoclipuri, chiar și pe rețeaua de socializare YouTube există numeroase melodii interpretate sau compuse de „cântăreți cu inteligență artificială”. Mulți utilizatori sunt entuziasmați de noua experiență și se întrec să o împărtășească pe rețelele de socializare cu prietenii lor.

„Nu pot spune dacă este un cântăreț bazat pe inteligență artificială dacă nu este anunțat. Conținutul bazat pe inteligență artificială este din ce în ce mai răspândit în spațiul cibernetic al Vietnamului. Utilizatorii obișnuiți ca mine probabil că în curând nu vor mai ști care conținut este de la oameni reali, care conținut este de la inteligență artificială sau are intervenție din partea inteligenței artificiale”, a declarat Khanh Ha (HCMC).

Recent, multe platforme de socializare din Vietnam au prezentat videoclipuri și transmisiuni în direct care vând produse de la persoane cu dizabilități, ceea ce a făcut comunitatea online mai empatică și mai responsabilă.

Cu toate acestea, multe cazuri au fost ulterior expuse de comunitatea online în care se folosește inteligența artificială pentru a transforma oameni obișnuiți în persoane cu dizabilități. Scopul acestui truc este de a profita de compasiunea spectatorilor pentru a vinde bunuri sau a servi la acte frauduloase.

Mulți experți în tehnologie spun că, recent, pe rețelele de socializare s-a înregistrat un număr tot mai mare de conturi care postează videoclipuri promoționale cu imagini ale unor persoane cu dizabilități, bolnave sau defavorizate, pentru a atrage simpatia. Cu toate acestea, realitatea arată că o mare parte din acest conținut este creat sau editat cu instrumente de inteligență artificială, transformând oamenii obișnuiți în persoane cu dizabilități în scopuri de profit sau fraudă.

Împreună cu Tuoi Tre, dl. Milko Radotic, vicepreședinte responsabil pentru regiunea Asia- Pacific al iProov - furnizorul lider mondial de tehnologie de autentificare biometrică, a avertizat: „Cercetările noastre arată că 99,9% dintre participanți nu pot recunoaște deepfake-urile. Chiar și instrumentele avansate de detectare de astăzi se confruntă cu multe dificultăți.”

Creșterea rezistenței utilizatorilor digitali

Dl. Dang Huu Son - director adjunct al Institutului pentru Cercetare Aplicată și Dezvoltarea Resurselor Umane AIOV, fondator și CEO al companiei LovinBot AI - a declarat că, de când Google a lansat tehnologia de inteligență artificială Nano Banana, Veo 3, ByteDance a lansat Seedream 4 și, înainte de aceasta, OpenAI a lansat GPT Image, piața inteligenței artificiale a fost extrem de activă și a adus, de asemenea, multe consecințe.

„Tehnologia nu a fost niciodată atât de accesibilă precum este astăzi. Toate acestea sunt modele de inteligență artificială extrem de puternice, care pot «copia fețe» în proporție de aproape 90%, chiar 99%, comparativ cu fotografia originală”, a comentat dl. Son.

Dacă în trecut, pentru a crea o fotografie falsă, utilizatorii obișnuiți trebuiau să angajeze experți în Photoshop pentru a face acest lucru, atunci cu inteligența artificială de astăzi, în mai puțin de 5 minute, cu câteva abilități de bază, un set de fotografii false, un videoclip fals care este decupat și lipit și căruia i s-au adăugat efecte de tip știre, se poate răspândi cu o viteză amețitoare.

„Știrile false se repetă de multe ori, cu densitate mare și acces facil, astfel încât un număr mare de persoane care intră în contact cu ele zilnic vor crede că sunt adevărate. Prin urmare, sunt necesare soluții pentru a limita problemele menționate mai sus”, a remarcat dl Son.

Potrivit domnului Trinh Nguyen Thien Phuoc - Director Tehnologic al companiei Gianty Vietnam, pentru a putea distinge conținutul generat de inteligența artificială, sunt necesare trei niveluri: (1) abilități de verificare a utilizatorilor (împreună cu reguli de aur); (2) instrumente tehnice precum Acreditările de Conținut (C2PA), semne de identificare a filigranelor (SynthID, AudioSeal) și detector de deepfake-uri; (3) proces de coordonare între părțile afiliate, cum ar fi: platforme, operatori de rețea, bănci...

În special, regula de aur trebuie îndeplinită foarte repede, în termen de 30-60 de secunde, inclusiv: nu dați clic pe linkuri necunoscute și accesați aplicația/site-ul oficial pentru verificare; opriți-vă imediat când întâlniți cuvinte cheie care vă obligă la acțiune (OTP/transfer de bani/urgent).

În același timp, utilizatorii ar trebui să verifice cu două surse independente înainte de a da crezare; să verifice data, ora și contextul (știrile vechi deghizate în noi); să sune înapoi la numărul oficial pe care l-ai găsit singur, nu folosi numărul dat de alții; cu ajutorul imaginilor și videoclipurilor, utilizatorii pot căuta rezultate similare...

Mulți experți consideră că cea mai fundamentală soluție pentru a face față valului de conținut fals creat de inteligența artificială este creșterea gradului de conștientizare a publicului. În loc să ne concentrăm doar pe măsuri tehnice, este necesar să construim programe de instruire, concursuri sau să simulăm situații din viața reală pentru a ajuta oamenii să își schimbe obiceiurile de consum de informații.

Pentru tineri, în special studenți, combinarea concursurilor online, a campaniilor media cu vedete sau persoane de contact poate crea o atracție naturală, ajutându-i să învețe și să experimenteze, stăpânind în același timp abilitățile de a identifica știrile false și videoclipurile false. Între timp, persoanele în vârstă, în special din zonele rurale, au nevoie de forme mai familiare și intuitive, cum ar fi pliante ilustrate, videoclipuri instructive sau proiecții la cămine culturale și activități comunitare.

„O abordare potrivită pentru fiecare grup de persoane va contribui la crearea unei baze solide de conștientizare pe termen lung, în loc să se oprească doar la activități pe termen scurt. De exemplu, unele unități au dezvoltat extensii care pot fi instalate în browserul Chrome pentru a ajuta utilizatorii să verifice știrile atunci când navighează pe web sau pe rețelele sociale...”, a declarat dl. Dang Huu Son.

Utilizarea inteligenței artificiale pentru detectarea inteligenței artificiale false

Recent, compania de telefonie Honor a integrat funcția de detectare a falsurilor prin inteligență artificială (AI Deepfake Detection) în noua sa linie de telefoane lansată. Această funcție poate analiza imagini și voci în 3 secunde pentru a avertiza asupra falsurilor direct în aplicații precum Messenger, Zalo, Viber sau Google Meet, devenind un „scut digital” pentru a proteja utilizatorii de escrocheriile de înaltă tehnologie.

Anterior, în septembrie 2025, MoMo a anunțat cooperarea sa cu iProov pentru a implementa tehnologia Dynamic Liveness, care să ajute la verificarea faptului că utilizatorii sunt reali, au identitatea corectă și sunt prezenți în momentul tranzacției, prevenind frauda prin utilizarea deepfake-urilor, videoclipurilor sau imaginilor false.

În sectoare cu risc ridicat, precum cel financiar, acest nivel de securitate este crucial pentru prevenirea fraudei, prevenirea accesului neautorizat și menținerea încrederii utilizatorilor în platformă.

Înapoi la subiect

VIRTUTE

Sursă: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm