Co by měl Vietnam udělat, aby se vyhnul riziku, že se stane levným zdrojem?

(Dan Tri) - Vzhledem k tomu, že Vietnam je jednou z průkopnických zemí, které zvažují přijetí zákona o umělé inteligenci, není problémem jen podpora technologií, ale také ochrana digitální suverenity a bezpečnosti lidí.

Exploze umělé inteligence (AI) přináší lidstvu velké výhody, ale také s sebou nese nespočet důsledků: od rasových předsudků, sofistikovaných online podvodů až po riziko, že se rozvojové země stanou levnými „datovými doly“.

Vzhledem k této realitě, mělo by být zodpovědné používání umělé inteligence dobrovolné, nebo povinné? Co by měl Vietnam udělat při budování právního koridoru pro tuto oblast?

Na okraji akce VinFuture Science and Technology Week se reportér setkal s profesorem Tobym Walshem z Univerzity Nového Jižního Walesu (Austrálie), akademikem Americké počítačové společnosti.

Profesor nabízí vhled do toho, jak se „chováme“ s umělou inteligencí, od volání „strojů“ k odpovědnosti až po tipy pro rodiny, jak se chránit před vlnou podvodů v oblasti high-tech.

Kdo je zodpovědný za umělou inteligenci?

Pane profesore, mělo by být zodpovědné používání umělé inteligence dobrovolné, nebo povinné? A jak bychom se k umělé inteligenci vlastně měli chovat?

- Pevně ​​věřím, že zodpovědné používání umělé inteligence by mělo být povinné . Existují zvrácené pobídky , s umělou inteligencí se vydělávají obrovské částky peněz, a jediný způsob, jak zajistit řádné chování, je zavést přísné regulace , aby veřejný zájem byl vždy v rovnováze se zájmy komerčními .

Když umělá inteligence udělá chybu, kdo je zodpovědný? Zejména u agentů s umělou inteligencí, máme schopnost opravit jejich operační mechanismy?

Hlavním problémem chyb umělé inteligence je, že ji nemůžeme volat k odpovědnosti. Umělá inteligence není člověk – a to je chyba každého právního systému na světě . Pouze lidé mohou nést odpovědnost za svá rozhodnutí a činy.

Najednou máme nového „agenta“, umělou inteligenci, která – pokud jí to dovolíme – může v našem světě činit rozhodnutí a podnikat kroky, což představuje výzvu: Koho budeme volat k odpovědnosti?

Odpověď zní: Společnosti, které zavádějí a provozují systémy umělé inteligence, musí nést odpovědnost za důsledky, které tyto „stroje“ způsobují.

Mnoho společností také hovoří o zodpovědné umělé inteligenci. Jak jim můžeme věřit? Jak víme, že to myslí vážně a komplexně a nepoužívají „zodpovědnou umělou inteligenci“ jen jako marketingový trik?

- Potřebujeme zvýšit transparentnost. Je důležité pochopit možnosti a omezení systémů umělé inteligence. Měli bychom také „hlasovat svým jednáním“, tj. rozhodnout se pro zodpovědné používání služeb.

Opravdu věřím, že způsob, jakým firmy zodpovědně využívají umělou inteligenci, se stane rozlišovacím prvkem na trhu a poskytne jim komerční výhodu.

Pokud společnost respektuje zákaznická data, bude to pro ně přínosem a přiláká je. Firmy si uvědomí, že dělat správnou věc je nejen etické, ale také jim to pomůže k většímu úspěchu. Vnímám to jako způsob, jak rozlišovat mezi podniky, a zodpovědné podniky jsou ty, se kterými se můžeme cítit dobře při obchodování.

Vietnam musí proaktivně chránit kulturní hodnoty.

Vietnam je jednou z mála zemí, které zvažují vydání zákona o umělé inteligenci. Jak to hodnotíte? Jaké jsou podle vašeho názoru výzvy pro rozvojové země, jako je Vietnam, týkající se etiky a bezpečnosti při vývoji umělé inteligence?

- Jsem velmi rád, že Vietnam je jednou z průkopnických zemí, které budou mít specializovaný zákon o umělé inteligenci. To je důležité, protože každá země má své vlastní hodnoty a kulturu a potřebuje zákony na ochranu těchto hodnot.

Vietnamské hodnoty a kultura se liší od australských, čínských a amerických. Nemůžeme očekávat, že technologické společnosti z Číny nebo Spojených států budou automaticky chránit vietnamskou kulturu a jazyk. Vietnam se musí ujmout iniciativy a tyto věci chránit.

Jsem si vědom toho, že v minulosti mnoho rozvojových zemí prošlo obdobím fyzické kolonizace. Pokud nebudeme opatrní, mohli bychom projít obdobím „digitální kolonizace“. Vaše data budou zneužita a stanete se levným zdrojem.

To je ohroženo, pokud rozvojové země rozvíjejí odvětví umělé inteligence způsobem, který využívá pouze data, aniž by kontroloval nebo chránil své vlastní zájmy.

Jak tedy tuto situaci překonat?

- Je to jednoduché: Investujte do lidí. Zvyšujte kvalifikaci lidí, ujistěte se, že rozumí umělé inteligenci. Podporujte podnikatele, společnosti zabývající se umělou inteligencí, podporujte univerzity. Buďte proaktivní. Místo čekání na to, až nám jiné země přenesou technologie nebo nás povedou, musíme být proaktivní a technologie zvládnout.

Profesor Toby Walsh přednáší na VinFuture Science and Technology Week (Foto: Organizační výbor).

Za druhé, musíme důrazně prosazovat platformy sociálních médií, abychom vytvořili bezpečné prostředí pro uživatele ve Vietnamu, aniž bychom ovlivnili demokracii v zemi.

Ve skutečnosti existuje řada příkladů toho, jak obsah na sociálních sítích ovlivnil výsledky voleb, rozdělil země a dokonce podněcoval terorismus.

Strávil jsem 40 let prací na umělé inteligenci. Prvních 30 let jsem se zabýval tím, jak umělou inteligenci zefektivnit. V posledních 10 letech se stále více zajímám o zodpovědný vývoj umělé inteligence a stále hlasitěji o ní mluvím.

Můžete dát nějakou radu, jelikož Vietnam právě připravuje zákon o umělé inteligenci?

- Existuje mnoho případů, kdy nové zákony nejsou potřeba. Už máme zákony na ochranu soukromí, už máme zákony na ochranu hospodářské soutěže. Tyto stávající zákony platí pro digitální prostor stejně jako pro fyzický svět.

Je důležité vymáhat tyto zákony stejně přísně v digitálním prostředí jako v tom fyzickém.

Objevují se však nová rizika a my je začínáme pozorovat. Lidé si začínají vytvářet vztahy s umělou inteligencí, využívají ji jako terapeuty a někdy to uživatelům ubližuje, takže musíme být opatrní.

Vždy voláme výrobce k odpovědnosti, když vydávají produkty. Například pokud společnosti zabývající se umělou inteligencí vydají produkty umělé inteligence, které škodí lidem, měly by také nést odpovědnost.

Jak tedy můžeme zabránit tomu, aby umělá inteligence způsobovala škodlivé účinky na děti, a vytvořit pro děti bezpečné prostředí, kdykoli se umělá inteligence objeví?

- Myslím, že jsme se ze sociálních médií moc nepoučili. Mnoho zemí si nyní začíná uvědomovat, že sociální média mají velké výhody, ale také mnoho nevýhod, zejména dopad na duševní zdraví, úroveň úzkosti a vnímání těla u mladých lidí, zejména dívek.

Mnoho zemí již začalo zavádět opatření k řešení tohoto problému. V Austrálii vstoupí v platnost věková hranice pro používání sociálních médií 10. prosince. Myslím, že podobná opatření potřebujeme i pro umělou inteligenci.

Vytváříme nástroje, které mohou mít pozitivní dopady, ale také mohou způsobit škodu, a musíme chránit mysl a srdce našich dětí před těmito negativními dopady.

Kromě toho doufám, že země také vydají přísné předpisy pro správu sociálních sítí, čímž vytvoří skutečně bezpečné prostředí pro všechny, kteří používají umělou inteligenci.

Ve skutečnosti nejen děti, ale i dospělí čelí rizikům způsobeným samotnou umělou inteligencí. Jak tedy mohou lidé pomocí umělé inteligence zlepšit své životy, aniž by představovali nebezpečí?

- Umělá inteligence se uplatňuje v mnoha oblastech a pomáhá zlepšovat kvalitu našich životů. V medicíně pomáhá umělá inteligence objevovat nové léky. Ve vzdělávání přináší umělá inteligence také mnoho pozitivních výhod.

Poskytování přístupu k umělé inteligenci bez odpovídajících záruk je však příliš riskantní. V USA jsme byli svědky soudních sporů, kdy rodiče žalovali technologické společnosti, které dohnaly jejich děti k sebevraždě po interakci s chatboty s umělou inteligencí.

Přestože procento uživatelů ChatGPT, kteří trpí problémy s duševním zdravím, je jen několik procent, s stovkami milionů uživatelů se skutečné číslo pohybuje ve stovkách tisíc.

Data jsou pro vývoj umělé inteligence velmi důležitá, ale z pohledu managementu, pokud je správa dat příliš striktní, brzdí to rozvoj umělé inteligence. Jaká nebezpečí může podle vás způsobit uvolnění správy dat? Jak vyvážit sběr dat a bezpečnou správu dat s vytvářením vývoje pro umělou inteligenci?

- Naprosto souhlasím. Data jsou jádrem pokroku umělé inteligence , protože jsou to data, která ji pohání. Bez dat nedosáhneme žádného pokroku. Vysoce kvalitní data jsou jádrem všeho, co děláme. Ve skutečnosti komerční hodnota a konkurenční výhoda, kterou firmy získávají, pochází z dat. Klíčovou otázkou je, zda máme kvalitní data, nebo ne.

Je znepokojivé vidět, jak jsou knihy autorů po celém světě – včetně té mé – používány bez povolení a bez náhrady. Je to akt krádeže plodů práce jiných lidí. Pokud tato situace bude pokračovat, autoři ztratí motivaci psát knihy a my ztratíme kulturní hodnoty, kterých si vážíme.

Musíme najít spravedlivější řešení, než jaké máme nyní.

V současné době „Silicon Valley“ bere autorům obsah a kreativitu, aniž by za to platilo – to je neudržitelné. Současnou situaci přirovnávám k Napsteru a počátkům online hudby v roce 2000. Tehdy byla online hudba všechna „kradená“, ale to nemohlo trvat věčně, protože hudebníci potřebovali příjem, aby mohli pokračovat v tvorbě.

A konečně, máme placené streamovací systémy , jako je Spotify nebo Apple Music, nebo hudbu podporovanou reklamami, kde se část příjmů vrací zpět umělci. Totéž musíme udělat s knihami, aby autoři získali hodnotu ze svých dat. Jinak nebude nikdo motivován psát knihy a svět bude na tom mnohem hůř, pokud nebudou psány nové knihy.

V rámci Týdne vědy a techniky VinFuture se v Centru současného umění Vincom Royal City uskuteční také výstava „Toa V - Touchpoint of Science“ (Foto: Organizační výbor).

Umělá inteligence je ve Vietnamu velmi rozvinutá. V poslední době Vietnam zavedl mnoho politik na podporu umělé inteligence, ale zároveň čelí problému podvodů způsobených umělou inteligencí. Jak by se tedy měl Vietnam podle profesora s touto situací vypořádat? Jakou profesorovu radu dává těm, kteří dnes umělou inteligenci používají k zajištění bezpečnosti a ochraně svých dat?

- Myslím, že pro každého jednotlivce je nejjednodušší způsob ověřit si informace. Například když obdržíme telefonát nebo e-mail, například od banky, musíme si to znovu ověřit: Můžeme zavolat zpět na toto číslo předplatitele nebo kontaktovat přímo banku, abychom informace ověřili.

V dnešní době existuje spousta falešných e-mailů, falešných telefonních čísel, a dokonce i falešných hovorů přes Zoom. Tyto podvody jsou jednoduché, levné a nezaberou moc času.

V naší rodině máme také vlastní bezpečnostní opatření: „tajnou otázku“, kterou znají jen členové rodiny, například jméno našeho králíka. To zajišťuje, že důležité informace zůstanou v rodině a neuniknou ven.

Vietnam také zahrnul vzdělávání v oblasti umělé inteligence do všeobecného vzdělávání, takže na co je třeba v tomto procesu dát pozor?

- Umělá inteligence mění to, co se vyučuje a jak se vyučuje. Ovlivňuje důležité dovednosti budoucnosti, jako je kritické myšlení, komunikační dovednosti, sociální inteligence a emoční inteligence. Tyto dovednosti se stanou nezbytnými.

Umělá inteligence může pomáhat s výukou těchto dovedností, například jako osobní lektor, osobní studijní asistent a poskytovat velmi efektivní vzdělávací nástroje prostřednictvím aplikací umělé inteligence.

Děkuji, pane profesore, že jste si našel čas na náš rozhovor!

Zdroj: https://dantri.com.vn/cong-nghe/viet-nam-can-lam-gi-de-tranh-nguy-co-tro-thanh-nguon-luc-re-tien-20251203093314154.htm