Profesor Toby Walsh varuje před rizikem „digitální kolonizace“ v éře umělé inteligence

DNVN - Profesor Toby Walsh vysoce ocenil vietnamské zvážení vydání zákona o umělé inteligenci (AI) a varoval před potenciálními nebezpečími, s nimiž se lidé mohou v éře AI setkat, včetně otázky „digitální kolonizace“.

Profesor Toby Walsh vystoupil na panelové diskusi „AI pro lidstvo – etika a bezpečnost AI v nové éře“ – aktivitě v rámci týdne vědy a techniky VinFuture Prize 2025.

Zodpovědné používání umělé inteligence

Profesor Toby Walsh z Univerzity Nového Jižního Walesu v australském Sydney a zároveň vedoucí výzkumník v CSIRO Data61, předním vědeckém centru v Austrálii, který strávil 40 let výzkumem umělé inteligence, uvedl, že v prvních 30 letech se „zajímal pouze o to, jak stále silněji rozvíjet umělou inteligenci“, ale v posledních 10 letech „se stále více zajímá a hlasitě vyjadřuje o zodpovědném vývoji umělé inteligence“.

Profesor Walsh zdůraznil potřebu zodpovědného používání umělé inteligence s odkazem na příklad používání systému umělé inteligence v USA, který využíval rasově zaujatá historická data, jež vedla k diskriminačním rozsudkům proti černochům.

„Společnosti, které zavádějí a provozují systémy umělé inteligence, musí nést odpovědnost za důsledky, které tyto stroje způsobují,“ řekl Toby Walsh.

Aby se podniky donutily praktikovat „zodpovědnou umělou inteligenci“, řekl, „potřebují uživatelé větší transparentnost. Je důležité pochopit možnosti a omezení systémů umělé inteligence. Měli bychom také „hlasovat praxí“, tedy rozhodnout se používat odpovědné služby. Proměna odpovědného používání umělé inteligence v komerční výhodu pro podniky je dobrým způsobem, jak regulovat jejich chování.“

Unikněte pasti „digitální kolonizace“

Mezi riziky, která umělá inteligence přináší, profesor Toby Walsh zdůraznil zejména možnost „digitální kolonizace“. „Jsem si velmi dobře vědom toho, že v minulosti mnoho rozvojových zemí prošlo obdobím fyzické kolonizace. Pokud nebudeme opatrní, můžeme projít obdobím digitální kolonizace. Vaše data budou zneužita a stanete se levným zdrojem. To je ohroženo, pokud rozvojové země budou rozvíjet odvětví umělé inteligence způsobem, který pouze využívá data, aniž by kontroloval a chránil jejich práva,“ řekl.

Podle něj je pro únik od tohoto nebezpečí nutné podporovat jedinečné hodnoty, domorodou kulturu a potřebovat zákony na ochranu těchto hodnot.

„Jsem velmi rád, že Vietnam je jednou z průkopnických zemí, které budou mít specializovaný zákon o umělé inteligenci. Vietnamské hodnoty a kultura se liší od Austrálie, Číny a Spojených států. Nemůžeme očekávat, že technologické společnosti z Číny nebo Spojených států budou automaticky chránit vietnamskou kulturu a jazyk. Tyto věci musí proaktivně chránit samotný Vietnam,“ zdůraznil profesor Toby Walsh.

Kromě toho se domnívá, že musíme proaktivně investovat do lidí, zlepšovat dovednosti pro všechny, pro podnikatele, pro firmy zabývající se umělou inteligencí, pro univerzity... aby umělé inteligenci rozuměli. „Místo čekání na to, až nám ostatní země převedou technologie nebo dají pokyny, musíme být proaktivní a technologii zvládnout,“ sdělil profesor Toby Walsh.

Spolu s tím je podle profesora Tobyho Walshe nutné silně mobilizovat platformy sociálních sítí, aby se vytvořilo bezpečné prostředí pro uživatele zejména ve Vietnamu a ve světě obecně, aniž by to ovlivnilo demokracii v zemi.

Profesor Toby Walsh je autorem tří knih o umělé inteligenci: „It's Alive! Artificial Intelligence from the Logic Piano to Killer Robots“ (Žije! Umělá inteligence od logického piana po zabijácké roboty) se zabývá historií a současným vývojem umělé inteligence; „2062: Svět, který umělá inteligence stvořila“ zkoumá potenciální dopad umělé inteligence na lidskou společnost. Jeho třetí kniha „Machines Behaving Badly: the Morality of AI“ (Stroje se chovají špatně: Moralita umělé inteligence) se ponořuje do etických výzev umělé inteligence.

Profesor Toby Walsh je pravidelným hostem slavných televizních kanálů, jako jsou ABC, BBC, CNN, DW, NPR, RT..., kde se zabývá tématem dopadu umělé inteligence a robotů na společnost. Je také autorem mnoha článků publikovaných v The New Scientist, American Scientist, Le Scienze, Cosmos, Technology Review, The New York Times, The Guardian, The Conversation...

Hien Thao

Zdroj: https://doanhnghiepvn.vn/cong-nghe/giao-su-toby-walsh-canh-bao-ve-nguy-co-bi-do-ho-so-trong-thoi-dai-ai/20251203061618510