Transparența produselor de inteligență artificială

Standul expozițional FPT despre aplicațiile inteligenței artificiale în diverse domenii.

Standul expoziționalFPT despre aplicațiile inteligenței artificiale în diverse domenii.

Astăzi, de la crearea de conținut vizual, audio și text până la asistența automată a deciziilor, multe produse de inteligență artificială nu sunt etichetate și sunt partajate ca și conținut obișnuit. Consecința este că utilizatorii nu știu dacă interacționează cu conținut generat de om sau de inteligența artificială și pot crede în dezinformare sau manipulare.

De exemplu, un salon de înfrumusețare postează o reclamă generată de inteligența artificială cu o imagine a unui model, făcându-i pe clienți să creadă în mod eronat că este reală, dar atunci când experimentează serviciul, descoperă că calitatea nu este cea anunțată. Mai periculos este faptul că inteligența artificială creează fotografii false cu persoane celebre, videoclipuri care simulează declarațiile politicienilor sau articole create de inteligența artificială, dar cu numele unor persoane reale, afectând onoarea personală și reputația agențiilor și organizațiilor.

În plus, lipsa unui mecanism de etichetare reduce încrederea utilizatorilor în platformele digitale și produsele de inteligență artificială. Un mediu digital care nu este transparent în ceea ce privește originea conținutului va face ca utilizatorii să fie suspicioși și distanți. Între timp, majoritatea utilizatorilor vietnamezi nu au obiceiul de a identifica și verifica originea conținutului, iar instrumentele tehnice pentru detectarea produselor de inteligență artificială sunt limitate.

Definirea clară a obligațiilor de transparență și etichetare nu este doar o cerință etică tehnologică, ci și o bază legală pentru a proteja atât utilizatorii, cât și dezvoltatorii de produse IA. Pentru a îndeplini această cerință, Ministerul Științei și Tehnologiei elaborează Legea privind inteligența artificială, al cărei articol 12 prevede „Transparență, etichetare și responsabilitate”.

Prin urmare, etichetarea este aplicarea unor măsuri tehnice pentru a notifica în mod clar, ușor de recunoscut și lizibil de către mașină că un conținut (text, imagine, audio, video) a fost creat sau modificat semnificativ de sistemele de inteligență artificială. Notificarea trebuie făcută atunci când conținutul este publicat pe scară largă.

Acest regulament stabilește obligații de etichetare pentru produsele create sau editate prin inteligență artificială, având ca scop transparența spațiului digital, protejarea consumatorilor și obligarea furnizorilor și a celor care implementează produsele să fie responsabili în mod solidar dacă neetichetarea cauzează confuzie sau daune.

Pentru conținutul care simulează persoane, obiecte, locuri sau evenimente reale, proiectul de lege prevede că furnizorii trebuie să aplice măsuri pentru a identifica în mod clar faptul că respectivul conținut este creat de inteligența artificială și pentru a asigura capacitatea de autentificare și urmări originea acestuia. Acesta este considerat un pas important în gestionarea tehnologiei inteligenței artificiale, în conformitate cu tendințele internaționale, în contextul în care Uniunea Europeană (UE), Statele Unite, Japonia și Coreea de Sud au emis reglementări similare.

Deși sunt de acord asupra necesității, mulți experți și companii consideră că reglementările privind etichetarea din proiectul de lege trebuie să fie mai specifice. Avocatul Hoang Le Quan, de la firma de avocatură cu răspundere limitată comercială din Vietnam (Lexcomm Vietnam LLC), consideră că este necesar să se clarifice dacă furnizorii de inteligență artificială pot decide singuri asupra formei de etichetare sau trebuie să urmeze instrucțiunile guvernului.

Dacă există linii directoare, acestea trebuie să fie clare și să asigure armonizarea cu standardele internaționale, evitând ca cerințele Vietnamului să fie complet diferite sau să creeze noi obligații, în special pentru furnizorii multinaționali, afectând competitivitatea Vietnamului în aplicarea și dezvoltarea inteligenței artificiale în comparație cu alte piețe precum Uniunea Europeană (UE), Coreea de Sud sau Statele Unite.

Unele opinii subliniază necesitatea de a defini clar domeniul de aplicare și nivelul de aplicare, dacă tot conținutul cu elemente de inteligență artificială trebuie etichetat sau dacă trebuie etichetat doar produsele create în întregime prin inteligență artificială sau în care s-a intervenit semnificativ. Dl. Tran Van Tri, directorul Vietnam Law Media Joint Stock Company (LuatVietnam.vn), a declarat că, atunci când conținutul are doar o mică parte care aplică inteligența artificială, este necesar să fie etichetat sau nu? Este necesar să se precizeze clar dacă este vorba de creație asistată de inteligență artificială sau dacă este creat complet prin inteligență artificială.

În industria divertismentului, unele companii își doresc un mecanism flexibil pentru a scuti produsele IA de obligațiile rigide de etichetare și, în schimb, aplică avertismente sau auto-dezvăluiri transparente, în funcție de nivelul de utilizare. IA este utilizată pe scară largă pentru a îmbunătăți sunetul, imaginile și efectele. Dacă toate ar fi obligatorii să fie etichetate, costurile și procedurile ar crește, împiedicând creativitatea.

Liderul Ministerului Științei și Tehnologiei a declarat că proiectul de lege privind inteligența artificială este construit în direcția găsirii unui echilibru rezonabil între management și încurajarea dezvoltării, asigurând transparența, fezabilitatea și apropierea de standardele internaționale. Scopul etichetării este de a clarifica granița dintre conținutul creat de om și conținutul generat de mașini, evitând ambele extreme, cum ar fi managementul lax sau înăsprirea excesivă, astfel încât tehnologia să poată fi dezvoltată într-un cadru transparent și responsabil.

HA LINH

Sursă: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html