Nevoie urgentă de a controla conținutul AI

Trebuie emise criterii pentru a limita conținutul pe care utilizatorii îl pot crea cu ajutorul inteligenței artificiale, impunând o etichetare clară.

În ultimii ani, inteligența artificială (IA) s-a dezvoltat și s-a îmbunătățit continuu cu o viteză amețitoare, devenind un instrument de sprijin profund în multe domenii. Veo3 - o tehnologie de creare video care utilizează inteligența artificială, dezvoltată recent de Google DeepMind - este capabilă să creeze imagini realiste. Pe lângă utilitățile care sprijină utilizatorii, acest instrument prezintă și provocarea de a fi exploatat de către infractori pentru fraudă.

Dificil de distins între real și fals

Conform lumii tehnologiei, Veo3 a „făcut furori” la nivel global datorită funcției sale de creare video prin inteligență artificială, cu un nivel de realism care depășește orice instrument anterior. Spre deosebire de Sora de la OpenAI - care iese în evidență doar prin imagine, dar este limitat în ceea ce privește sunetul, Veo3 sincronizează perfect imaginile, sunetele ambientale și dialogurile. De la pași, bătaia vântului, la voci umane și efecte înconjurătoare, toate sunt combinate fără probleme, atingând un nivel de realism, ceea ce face dificilă pentru utilizatori să facă distincția între videoclipurile reale și cele create de inteligența artificială.

În Vietnam, Veo3 a creat rapid o febră pe rețelele de socializare precum TikTok, Facebook și YouTube Shorts. O serie de videoclipuri cu hashtagul #veo3 au fost distribuite cu o viteză amețitoare, atrăgând milioane de vizualizări și sute de mii de interacțiuni. Multe clipuri create de inteligența artificială au surprins comunitatea online datorită nivelului lor incredibil de autenticitate. De exemplu, un videoclip de 8 secunde cu un dialog simplu a ajuns la 5 milioane de vizualizări și peste 308.000 de aprecieri. Un alt videoclip care înregistra o femeie în vârstă prăjind ouă, creat în întregime de inteligența artificială, a atins, de asemenea, peste 2,6 milioane de vizualizări și peste 104.000 de aprecieri.

Dl. Tran Vinh Khang - funcționar în Districtul 1, Ho Chi Minh City - a spus că abia poate distinge între real și fals, deoarece nivelul de realism era prea ridicat. „Am văzut un videoclip cu un vânzător de pește vorbind cu clienții la piață și am crezut că este real, deoarece imaginea era atât de clară. Felul în care își flutura mâna, își ridica sprâncenele, lumina soarelui care îi strălucea pe față, totul era atât de natural încât era incredibil că a fost creat de inteligența artificială” - a spus dl. Khang.

Imaginile din film create de Veo3, utilizatorii întâmpină dificultăți în a distinge între cele reale și cele false

Deși a recunoscut că a fost impresionată, dna Nguyen Mai Anh (care locuiește în orașul Ho Chi Minh) și-a exprimat îngrijorarea cu privire la securitatea informațiilor. „Videoclipul creat de Veo3 este atât de realist încât mă face să mă simt nesigură. Dacă răufăcătorii folosesc această tehnologie pentru a crea videoclipuri menite să calomnieze, să defăimeze sau să falsifice dovezi, consecințele vor fi foarte grave”, a exprimat dna Anh.

Mulți utilizatori vietnamezi sunt interesați în mod special de modul de accesare și utilizare a Veo3. Cu toate acestea, Veo3 a fost implementat oficial de Google abia pe piața americană, prin intermediul pachetului de abonament Google AI Ultra, cu o taxă de 249,99 USD/lună. Confruntată cu această limitare, comunitatea online vietnameză a găsit o modalitate de a „depăși bariera” pentru a o experimenta. Mulți oameni împărtășesc sfaturi despre utilizarea VPN-ului pentru a schimba IP-ul în SUA, apoi înregistrează un cont Google în regiunea acceptată pentru a activa și utiliza Veo3 ca un utilizator local. Potrivit experților în securitate, aceasta este, de asemenea, o lacună pe care răufăcătorii o pot exploata pentru a face lucruri dubioase.

Cadrul juridic necesar pentru IA

Dl. Le Hong Duc, fondatorul OneAds Digital Company Limited, a declarat că produsele generate de inteligența artificială, cum ar fi videoclipurile, imaginile sau vocile, se apropie de un nivel uimitor de realism și pot fi chiar puse direct în producție și comercializare. Această explozie aduce beneficii clare în ceea ce privește costurile și timpul, dar poate fi exploatată pentru a răspândi informații false sau a provoca confuzie publică. În contextul unor modele de inteligență artificială din ce în ce mai complexe, controlul conținutului devine urgent, mai ales atunci când tehnologia a depășit cu mult viteza de actualizare a legilor actuale.

Prin urmare, dl Duc a propus că este urgentă elaborarea unei legi specializate pentru IA, care să definească clar responsabilitățile celor care creează și distribuie conținut bazat pe IA. Actele de răspândire a conținutului fals și toxic trebuie sancționate și tratate cu strictețe. În același timp, autoritățile trebuie să emită criterii pentru a limita conținutul pe care utilizatorii îl pot crea cu ajutorul IA și să solicite etichetări clare. Dacă nu sunt implementate corect, utilizatorii trebuie să își asume responsabilitatea legală și să despăgubească orice daune cauzate. „Emiterea unui cadru legal separat pentru IA este extrem de urgentă pentru a controla această tehnologie aflată în rapidă dezvoltare, contribuind la menținerea unui mediu digital sănătos, prevenind consecințe precum frauda, ​​încălcările etice sau actele de insultare a altora” - a subliniat dl Duc.

Pe lângă preocupările juridice, un expert în securitatea informațiilor a spus că dezvoltarea remarcabilă a Veo3 ridică îngrijorări și în rândul creatorilor de conținut, în special în domenii precum filmul, televiziunea și animația, care riscă să fie înlocuite treptat de tehnologia inteligenței artificiale, reprezentând o provocare majoră pentru protejarea carierelor și a drepturilor de autor în industria creativă. „Este necesar să se adauge în curând reglementări privind drepturile de proprietate intelectuală pentru conținutul generat de inteligența artificială, deoarece inteligența artificială este acum capabilă să producă produse extrem de realiste. În caz contrar, creatorii se vor confrunta cu riscul de a-și pierde locurile de muncă din cauza valului de opere virtuale care inundă piața”, a spus expertul.

Atenție la serviciile de uzurpare a identității

De când Veo3 a explodat, pe platformele de socializare, multe conturi care pretind a fi „experți în inteligență artificială” au început să distribuie videoclipuri demonstrative, instrucțiuni despre cum să accesezi Veo3 sau să vândă conturi și servicii de asistență la prețuri cuprinse între 200.000 și 300.000 VND. Unii utilizatori au spus că au accesat și au încercat cu succes serviciul, dar nu toată lumea a putut experimenta acest lucru. Domnul Le Hong Duc a avertizat utilizatorii să fie atenți la serviciile false sau neoficiale și a recomandat să aștepte ca Google să implementeze oficial Veo3 pe piața vietnameză pentru a evita frauda financiară, furtul de date sau preluarea controlului asupra conturilor Google.

Sursă: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm