Transparentnost produktů umělé inteligence

Mnoho produktů umělé inteligence (AI) dnes nezveřejňuje úroveň technologického zásahu, což uživatelům ztěžuje rozlišení mezi skutečným a falešným. Vzhledem k této situaci se jasné definování povinnosti transparentnosti a označování produktů AI stalo naléhavým požadavkem.

Výstavní stánekFPT věnovaný aplikacím umělé inteligence v různých oblastech.

Dnes, od vytváření vizuálního, zvukového a textového obsahu až po automatizovanou podporu rozhodování, je mnoho produktů umělé inteligence neoznačených a sdílených jako běžný obsah. Důsledkem je, že uživatelé nevědí, zda interagují s obsahem generovaným člověkem nebo umělou inteligencí, a mohou uvěřit dezinformacím nebo manipulaci.

Například kosmetický salon zveřejní reklamu vygenerovanou umělou inteligencí s obrázkem modelky, čímž se zákazníci mylně domnívají, že je skutečná, ale když si službu vyzkouší, zjistí, že kvalita neodpovídá inzerované. Nebezpečnější je, že umělá inteligence vytváří falešné fotografie slavných lidí, videa simulující prohlášení politiků nebo články vytvořené umělou inteligencí, ale se jmény skutečných lidí, což poškozuje osobní čest a pověst agentur a organizací.

Absence mechanismu označování navíc snižuje důvěru uživatelů v digitální platformy a produkty umělé inteligence. Digitální prostředí, které není transparentní ohledně původu obsahu, způsobí, že uživatelé budou podezřívaví a odtažití. Většina vietnamských uživatelů zároveň nemá zvyk identifikovat a ověřovat původ obsahu a technické nástroje pro detekci produktů umělé inteligence jsou omezené.

Jasné definování povinností v oblasti transparentnosti a označování není jen technologickým etickým požadavkem, ale také právním základem pro ochranu uživatelů i vývojářů produktů umělé inteligence. Aby bylo možné tento požadavek splnit, ministerstvo vědy a technologií vyvíjí zákon o umělé inteligenci, jehož článek 12 stanoví „Transparentnost, označování a odpovědnost“.

Označování je tedy použití technických opatření k jasnému, snadno rozpoznatelnému a strojově čitelnému oznámení, že obsah (text, obrázek, zvuk, video) byl vytvořen nebo významně upraven systémy umělé inteligence. Toto oznámení musí být učiněno, když je obsah široce publikován.

Toto nařízení zavádí povinné označování produktů vytvořených nebo upravených umělou inteligencí s cílem zprůhlednit digitální prostor, chránit spotřebitele a vyžadovat, aby dodavatelé a provozovatelé nesli společnou odpovědnost, pokud neoznačení způsobí nejasnosti nebo škody.

V případě obsahu simulujícího skutečné osoby, objekty, místa nebo události návrh zákona stanoví, že poskytovatelé musí uplatňovat opatření k jasné identifikaci, že obsah byl vytvořen umělou inteligencí, a zajistit možnost ověření a dohledání jeho původu. To je považováno za důležitý krok v řízení technologií umělé inteligence v souladu s mezinárodními trendy, kdy Evropská unie (EU), Spojené státy, Japonsko a Jižní Korea vydaly podobné předpisy.

Přestože se mnoho odborníků a podniků shoduje na nezbytnosti, domnívá se, že předpisy o označování v návrhu zákona by měly být konkrétnější. Právník Hoang Le Quan z vietnamské advokátní kanceláře s ručením omezeným (Lexcomm Vietnam LLC) se domnívá, že je nutné objasnit, zda si poskytovatelé umělé inteligence mohou o formě označování sami rozhodnout, nebo se musí řídit pokyny vlády.

Pokud existují pokyny, musí být jasné a zajišťovat soulad s mezinárodními standardy, aby se zabránilo tomu, že by vietnamské požadavky byly zcela odlišné nebo by vytvářely nové povinnosti, zejména pro nadnárodní dodavatele, což by ovlivnilo konkurenceschopnost Vietnamu v oblasti aplikací a vývoje umělé inteligence ve srovnání s jinými trhy, jako je Evropská unie (EU), Jižní Korea nebo Spojené státy.

Některé názory zdůrazňují potřebu jasně definovat rozsah a úroveň použití, zda musí být označen veškerý obsah s prvky umělé inteligence, nebo pouze produkty vytvořené výhradně umělou inteligencí nebo s významným zásahem umělé inteligence. Pan Tran Van Tri, ředitel společnosti Vietnam Law Media Joint Stock Company (LuatVietnam.vn), uvedl, že pokud je v obsahu pouze malá část s využitím umělé inteligence, je nutné jej označovat, či nikoli? Je nutné jasně uvést, zda se jedná o asistovanou tvorbu s umělou inteligencí, nebo zda se jedná o kompletní tvorbu umělé inteligence.

V zábavním průmyslu některé společnosti chtějí flexibilní mechanismus, který by osvobodil produkty umělé inteligence od povinného označování a místo toho by uplatňovaly varování nebo transparentní samoinformace v závislosti na úrovni používání. Umělá inteligence se široce používá ke zlepšení zvuku, obrazu a efektů. Pokud by všechny musely být označeny, zvýšily by se náklady a postupy, což by brzdilo kreativitu.

Vedoucí představitel ministerstva vědy a technologií uvedl, že návrh zákona o umělé inteligenci je postaven ve směru nalezení rozumné rovnováhy mezi řízením a podporou rozvoje, zajištěním transparentnosti, proveditelnosti a přiblížením se mezinárodním standardům. Cílem označování je vyjasnit hranici mezi obsahem vytvořeným člověkem a obsahem generovaným strojem a vyhnout se oběma extrémům, ať už jde o laxní řízení nebo nadměrné zpřísňování, aby technologie mohla být rozvíjena v transparentním a odpovědném rámci.

HA LINH

Zdroj: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html