A mesterséges intelligencia termékek átláthatósága

Az FPT kiállítási standja a mesterséges intelligencia alkalmazásait mutatja be különböző területeken.

Manapság, a vizuális, hang- és szöveges tartalmak létrehozásától kezdve az automatizált döntéstámogatásig, számos mesterséges intelligencia által létrehozott termék címkézés nélkül jelenik meg, és normál tartalomként kerül megosztásra. Ennek következtében a felhasználók nem tudják, hogy ember vagy mesterséges intelligencia által generált tartalommal lépnek-e interakcióba, és félretájékoztatásokban vagy manipulációkban hihetnek.

Például egy szépségszalon egy mesterséges intelligencia által generált hirdetést tesz közzé egy modell képével, aminek hatására a vásárlók tévesen azt hiszik, hogy a hirdetés valódi, de amikor megtapasztalják a szolgáltatást, rájönnek, hogy a minőség nem olyan, mint amilyennek hirdetik. Veszélyesebb, hogy a mesterséges intelligencia híres emberekről készít hamis fotókat, politikusok nyilatkozatait szimuláló videókat , vagy mesterséges intelligencia által létrehozott, de valódi emberek nevével írt cikkeket, károsítva ezzel a személyes becsületet és a hivatalok, szervezetek hírnevét.

Ezenkívül a címkézési mechanizmus hiánya csökkenti a felhasználók bizalmát a digitális platformok és a mesterséges intelligencia alapú termékek iránt. Az a digitális környezet, amely nem átlátható a tartalom eredetét illetően, gyanakvóvá és távolságtartóvá teszi a felhasználókat. Eközben a legtöbb vietnami felhasználónak nincs szokása azonosítani és ellenőrizni a tartalom eredetét, és a mesterséges intelligencia alapú termékek észlelésére szolgáló technikai eszközök korlátozottak.

Az átláthatósági és címkézési kötelezettségek egyértelmű meghatározása nemcsak technológiai etikai követelmény, hanem jogalap is a mesterséges intelligencia termékek felhasználóinak és fejlesztőinek védelmére. Ennek a követelménynek a teljesítése érdekében a Tudományos és Technológiai Minisztérium kidolgozza a mesterséges intelligenciáról szóló törvényt, amelynek 12. cikke az „Átláthatóságot, címkézést és elszámoltathatóságot” írja elő.

Ennek megfelelően a címkézés technikai intézkedések alkalmazása annak érdekében, hogy egyértelműen, könnyen felismerhető és géppel olvasható módon jelezzék, hogy a tartalmat (szöveg, kép, hanganyag, videó) mesterséges intelligencia rendszerek hozták létre vagy módosították jelentősen. Az értesítést akkor kell megtenni, amikor a tartalom széles körben nyilvánosságra kerül.

Ez a rendelet kötelező címkézési kötelezettségeket ír elő a mesterséges intelligencia által létrehozott vagy szerkesztett termékekre vonatkozóan, azzal a céllal, hogy átláthatóvá tegye a digitális teret, védje a fogyasztókat, és előírja a beszállítók és a telepítők közös felelősségét, ha a címkézés elmulasztása zavart vagy kárt okoz.

A valós embereket, tárgyakat, helyeket vagy eseményeket szimuláló tartalmak esetében a törvénytervezet előírja, hogy a szolgáltatóknak intézkedéseket kell alkalmazniuk annak egyértelmű azonosítására, hogy a tartalmat mesterséges intelligencia hozta létre, valamint biztosítaniuk kell a hitelesítés és az eredet nyomon követésének lehetőségét. Ez fontos lépésnek tekinthető a mesterséges intelligencia technológia kezelésében, összhangban a nemzetközi trendekkel, mivel az Európai Unió (EU), az Egyesült Államok, Japán és Dél-Korea is hasonló szabályozásokat adott ki.

Bár egyetértenek a szükségességgel, számos szakértő és vállalkozás úgy véli, hogy a törvénytervezetben szereplő címkézési szabályozásoknak konkrétabbaknak kellene lenniük. Hoang Le Quan ügyvéd, a Vietnam Commercial Legal Limited Liability Law Firm (Lexcomm Vietnam LLC) ügyvédje úgy véli, hogy tisztázni kell, hogy a mesterséges intelligencia szolgáltatói maguk dönthetnek-e a címkézés formájáról, vagy a kormány utasításait kell követniük.

Ha vannak irányelvek, azoknak egyértelműeknek kell lenniük, és biztosítaniuk kell az összhangot a nemzetközi szabványokkal, elkerülve, hogy Vietnam követelményei teljesen eltérőek legyenek, vagy új kötelezettségeket hozzanak létre – különösen a multinacionális beszállítók számára –, ami befolyásolná Vietnam versenyképességét a mesterséges intelligencia alkalmazásában és fejlesztésében más piacokhoz, például az Európai Unióhoz (EU), Dél-Koreához vagy az Egyesült Államokhoz képest.

Egyes vélemények hangsúlyozzák az alkalmazási kör és szint egyértelmű meghatározásának szükségességét, azaz hogy minden mesterséges intelligencia által támogatott tartalmat meg kell-e jelölni, vagy csak a teljes egészében mesterséges intelligencia által létrehozott vagy jelentősen beavatkozással előállított termékeket. Tran Van Tri, a Vietnam Law Media Joint Stock Company (LuatVietnam.vn) igazgatója elmondta, hogy ha a tartalomnak csak kis része alkalmaz mesterséges intelligenciát, akkor szükséges-e címkézni azt vagy sem? Világosan meg kell határozni, hogy mesterséges intelligencia által segített vagy teljes egészében mesterséges intelligencia által létrehozott tartalomról van-e szó.

A szórakoztatóiparban egyes vállalatok rugalmas mechanizmust szeretnének, hogy a mesterséges intelligencia alapú termékeket mentesítsék a szigorú címkézési kötelezettségek alól, ehelyett figyelmeztetéseket vagy átlátható önbevallást alkalmazzanak a felhasználás szintjétől függően. A mesterséges intelligenciát széles körben használják a hangok, képek és effektek javítására. Ha mindegyiket címkézni kellene, a költségek és az eljárások megnőnének, ami akadályozná a kreativitást.

A Tudományos és Technológiai Minisztérium vezetője elmondta, hogy a mesterséges intelligenciáról szóló törvénytervezet az irányítás és a fejlesztésösztönzés közötti ésszerű egyensúly megtalálásának, az átláthatóság, a megvalósíthatóság és a nemzetközi szabványokhoz való közelítés biztosításának irányába épül. A címkézés célja az ember által létrehozott tartalom és a géppel generált tartalom közötti határ tisztázása, elkerülve a laza irányítás vagy a túlzott szigorítás mindkét szélsőségét, hogy a technológia átlátható és felelősségteljes keretek között fejlődhessen.

HA LINH

Forrás: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html