Rada odborníka: Nespěchejte s legalizací umělé inteligence

(NLDO) - Workshop přilákal pozornost výzkumníků, lektorů, studentů a odborníků z oblasti technologií a práva.

Dne 7. října uspořádala Univerzita ekonomie a práva (VNU-HCM) ve spolupráci s Hočiminovým městským deníkem Právnické noviny vědeckou konferenci na téma „Umělá inteligence a právo: Mezinárodní zkušenosti a několik návrhů pro Vietnam“.

Potřeba flexibility místo „pevného rámu“

Na workshopu vystoupil docent Dr. Ngo Huu Phuoc, zástupce děkana pro Fakultu hospodářského práva Univerzity ekonomie a práva, s příspěvkem o dopadu umělé inteligence (AI) na právní systém, legislativních zkušenostech zemí po celém světě a politických návrzích pro Vietnam.

Docent Dr. Ngo Huu Phuoc, zástupce děkana pro Fakultu hospodářského práva Univerzity ekonomie a práva, přednesl svůj příspěvek. Foto: Organizační výbor

Podle pana Phuoc je Čína jednou ze zemí s pozoruhodným přístupem ke správě umělé inteligence. Tato země uplatňuje vícevrstvý model, který kombinuje základní zákony, jako je zákon o kybernetické bezpečnosti (2017), zákon o bezpečnosti dat (2021) a zákon o ochraně osobních údajů (2021), se specializovanými předpisy, místními předpisy a technickými normami „soft law“. Tento přístup pomáhá Číně striktně regulovat a vytvářet podmínky pro testování technologií v rámci kontroly.

Hlavními výhodami jsou rychlost a flexibilita, které umožňují rychlé úpravy politik podle technologických postupů a zároveň podporují rozvoj silného ekosystému umělé inteligence. Tento model však také odhaluje omezení, pokud jde o soukromí, právní překrývání a riziko potlačení inovací v důsledku hlubokých státních zásahů.

Na základě mezinárodních zkušeností se docent Dr. Ngo Huu Phuoc domnívá, že Vietnam by v současné fázi neměl vydávat samostatný zákon o umělé inteligenci. Důvodem je, že domácí ekosystém umělé inteligence ještě není dostatečně zralý pro legalizaci. Zároveň „rigidní právní rámec“ bude brzdit inovace. Na druhou stranu jsou zdroje státní správy stále omezené.

Místo toho navrhl vydání etického rámce (kodexu chování) pro umělou inteligenci, který by řídil zodpovědné chování a rozvoj; vybudování sandboxu pro umělou inteligenci, který by umožňoval kontrolované testování; a změnu a doplnění stávajících zákonů s cílem integrovat předpisy týkající se umělé inteligence do stávajícího právního systému.

Podle odborníků tyto směry pomohou Vietnamu flexibilně, bezpečně a v souladu s reálnými podmínkami v zemi využít příležitostí, které nabízí umělá inteligence.

Když umělá inteligence zaklepe na dveře nemocnice

Podle docenta Dr. Le Minh Khoie, vedoucího katedry vědy a vzdělávání na Univerzitní lékařské a farmaceutické nemocnici v Ho Či Minově Městě, byla umělá inteligence v medicíně ve srovnání s oblastmi, jako je ekonomie nebo komunikace, vyvinuta s mnoha pokročilými modely. Praktické využití je však stále opatrné. „Lékaři stále zkoumají, zda je umělá inteligence „přítelem“, nebo „nepřítelem“,“ sdělil docent Dr. Le Minh Khoi.

Podle docenta Dr. Le Minha Khoie představuje zavedení umělé inteligence do lékařské oblasti řadu potenciálních rizik, jako je zabezpečení a ochrana soukromí dat, zkreslení algoritmů a etiky, otázky bezpečnosti, odpovědnosti a transparentnosti...

Jedním z velkých rizik je „iluze“ umělé inteligence. Pokud se v široce nasazeném systému vyskytnou chyby, následky by mohly postihnout tisíce pacientů. Otázka odpovědnosti je také ožehavá: Pokud umělá inteligence způsobí chyby v diagnóze nebo léčbě, kdo je za to zodpovědný – lékař používající systém, vývojář systému, distributor, nemocnice nebo regulační orgán?

Scéna konference - Foto: Organizační výbor

Kromě toho, pokud se lékaři příliš spoléhají na umělou inteligenci, mohou ztratit schopnost myslet a činit klinické úsudky a postupně ztrácet schopnost odhalovat a opravovat chyby, zatímco lidský dohled zůstává nepostradatelným faktorem. Konzervativní mentalita, strach ze ztráty zaměstnání nebo nedostatečné porozumění technologiím navíc způsobují, že mnoho zdravotnických pracovníků váhá s přístupem k umělé inteligenci.

Pokud jde o právní výzvy, docent Dr. Le Minh Khoi poznamenal, že rychlost vývoje umělé inteligence v současné době daleko přesahuje schopnosti regulačního systému regulovat. Technologie se vyvíjejí příliš rychle, zatímco regulace jsou pomalé, což nás vede k „dusivé“ situaci mezi dvěma extrémy: pokud je zpřísníme, bude to brzdit inovace, ale pokud je uvolníme, bude to pro pacienty riskantní. Kromě toho je infrastruktura lékařských dat ve Vietnamu stále fragmentovaná, nekonzistentní a má nerovnoměrnou kvalitu, což ztěžuje trénování a testování modelů umělé inteligence.

Pan Khoi na závěr uvedl, že umělá inteligence je pro lékařský průmysl skvělou příležitostí, ale také zkouškou lidské přizpůsobivosti, otevřenosti a odpovědnosti v digitálním věku.

Zdroj: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm