Firmy, které používají umělou inteligenci zodpovědně, získají komerční výhodu

Panelová diskuse „AI pro lidstvo: Etika a bezpečnost AI v nové éře“ v rámci Týdne vědy a techniky VinFuture 2025 spojuje vědce, politiky a vynálezce, aby diskutovali o zodpovědném vývoji AI směrem k humanistickým hodnotám.

Na okraj diskuse hovořil profesor Toby Walsh z Univerzity Nového Jižního Walesu (Austrálie), akademik Americké asociace pro výpočetní techniku, o etickém a zodpovědném používání umělé inteligence.

Zodpovědné používání umělé inteligence by mělo být povinné

- Mělo by být podle profesora zodpovědné používání umělé inteligence dobrovolné, nebo povinné? A jak bychom se k umělé inteligenci vlastně měli chovat?

Profesor Toby Walsh: Pevně věřím, že zodpovědné používání umělé inteligence by mělo být povinné. V současné době existují zvrácené pobídky, kdy se s umělou inteligencí vydělává obrovské množství peněz, a jediný způsob, jak zajistit dobré chování, je zavést přísné předpisy, aby veřejný zájem byl vždy v rovnováze s komerčními zájmy.

- Můžete uvést konkrétní příklady z různých zemí zodpovědného a etické aplikace umělé inteligence?

Profesor Toby Walsh: Klasickým příkladem jsou důležitá rozhodnutí, jako je vynášení trestů a jejich vynášení ve Spojených státech, kde se systém umělé inteligence používá k vydávání doporučení ohledně trestu odnětí svobody a pravděpodobnosti recidivy.

Tento systém byl bohužel natrénován na historických datech a neúmyslně odráží minulé rasové předsudky, které vedou k diskriminaci černochů. Neměli bychom dovolit, aby takové systémy rozhodovaly o tom, kdo bude uvězněn.

- Když umělá inteligence udělá chybu, kdo je za to zodpovědný? Zejména u agentů s umělou inteligencí, máme schopnost opravit jejich operační mechanismy?

Profesor Toby Walsh: Hlavním problémem chyb umělé inteligence je, že za ně nemůžeme volat k odpovědnosti. Umělá inteligence není člověk a to je chyba v každém právním systému na světě . Za svá rozhodnutí a činy jsou zodpovědní pouze lidé.

Najednou tu máme nového „agenta“ zvaného umělá inteligence, která – pokud jí to dovolíme – může v našem světě činit rozhodnutí a podnikat kroky, což představuje výzvu: koho budeme volat k odpovědnosti?

Řešením je požadovat, aby společnosti, které zavádějí a provozují systémy umělé inteligence, nesly odpovědnost za důsledky, které tyto „stroje“ způsobují.

Profesor Toby Walsh z Univerzity Nového Jižního Walesu vystoupil na semináři „AI pro lidstvo: etika a bezpečnost AI v nové éře“ v rámci Týdne vědy a techniky VinFuture 2025. (Foto: Minh Son/Vietnam+)

- Mnoho firem také hovoří o zodpovědné umělé inteligenci. Jak jim můžeme věřit? Jak víme, že to myslí vážně a komplexně a že nepoužívají „zodpovědnou umělou inteligenci“ jen jako marketingový trik?

Profesor Toby Walsh: Potřebujeme zvýšit transparentnost. Je důležité pochopit možnosti a omezení systémů umělé inteligence. Měli bychom také „hlasovat svým jednáním“ – rozhodnout se zodpovědně využívat služby.

Opravdu věřím, že způsob, jakým firmy zodpovědně využívají umělou inteligenci, se stane jejich rozlišovacím prvkem na trhu a poskytne jim obchodní výhodu. Pokud společnost respektuje zákaznická data, bude z toho těžit a přiláká zákazníky.

Firmy si uvědomí, že dělat správnou věc je nejen etické, ale také je to dovede k většímu úspěchu. V tom vidím způsob, jak rozlišovat mezi podniky, a zodpovědné podniky jsou ty, se kterými se můžeme cítit dobře při obchodování.

„Pokud nebudeme opatrní, můžeme zažít období digitální kolonizace“

- Vietnam je jednou z mála zemí, které zvažují vydání zákona o umělé inteligenci. Jak to hodnotíte? Jaké jsou podle vašeho názoru pro rozvojové země, jako je Vietnam, výzvy týkající se etiky a bezpečnosti při vývoji umělé inteligence? Jaká doporučení má profesor pro Vietnam, aby dosáhl svých cílů ve strategii umělé inteligence – aby byl na špici regionu a světa ve výzkumu a zvládnutí umělé inteligence?

Profesor Toby Walsh: Jsem potěšen, že Vietnam je jednou z průkopnických zemí, které budou mít specializovaný zákon o umělé inteligenci. To je důležité, protože každá země má své vlastní hodnoty a kulturu a potřebuje zákony na ochranu těchto hodnot.

Vietnamské hodnoty a kultura se liší od australských, čínských a amerických. Nemůžeme očekávat, že technologické společnosti z Číny nebo Spojených států budou automaticky chránit vietnamskou kulturu a jazyk. Vietnam se musí ujmout iniciativy a tyto věci chránit.

Profesor Toby Walsh varuje, že pokud nebudeme opatrní, mohli bychom zažít období digitální kolonizace. (Foto: Minh Son/Vietnam+)

Jsem si vědom toho, že v minulosti mnoho rozvojových zemí prošlo obdobím fyzické kolonizace. Pokud nebudeme opatrní, mohli bychom projít obdobím „digitální kolonizace“. Vaše data budou zneužita a stanete se levným zdrojem.

To je ohroženo, pokud rozvojové země rozvíjejí odvětví umělé inteligence způsobem, který využívá pouze data, aniž by kontroloval nebo chránil své vlastní zájmy.

- Jak tedy tuto situaci překonat, pane profesore?

Profesor Toby Walsh: Je to jednoduché, investujte do lidí. Zvyšujte kvalifikaci lidí, ujistěte se, že rozumí umělé inteligenci. Podporujte podnikatele a firmy v oblasti umělé inteligence, podporujte univerzity. Buďte proaktivní. Místo čekání na to, až nám jiné země přenesou technologie nebo nás povedou, musíme být proaktivní a technologie si osvojit.

Ještě důležitější je, že musíme důrazně prosazovat platformy sociálních médií, abychom vytvořili bezpečné prostředí pro uživatele ve Vietnamu, aniž bychom ovlivnili demokracii v zemi.

Ve skutečnosti existuje řada příkladů toho, jak obsah na sociálních sítích ovlivnil výsledky voleb, rozdělil země a dokonce podněcoval terorismus.

- Umělá inteligence je ve Vietnamu velmi rozvinutá. V poslední době Vietnam zavedl mnoho politik na podporu umělé inteligence, ale Vietnam se také potýká s problémem, kterým jsou podvody způsobené umělou inteligencí. Jak by se tedy měl Vietnam podle profesora s touto situací vypořádat?

Profesor Toby Walsh: Myslím, že pro jednotlivce je nejjednodušší způsob ověřit si informace. Například když obdržíme telefonát nebo e-mail, například z banky, musíme si to znovu ověřit: můžeme zavolat na toto telefonní číslo zpět nebo kontaktovat přímo banku, abychom si informace ověřili. V dnešní době existuje mnoho falešných e-mailů, falešných telefonních čísel, dokonce i hovory přes Zoom lze předstírat. Tyto podvody jsou velmi jednoduché, levné a nezaberou mnoho času.

V naší rodině máme také vlastní bezpečnostní opatření: „tajnou otázku“, kterou znají jen členové rodiny, například jméno našeho králíka. To zajišťuje, že důležité informace zůstanou v rodině a neuniknou ven.

- Moc děkuji. / Děkuji mnohokrát.

Profesor Toby Walsh je čestným stipendistou ARC a profesorem Scientia v oboru umělé inteligence (AI) na Univerzitě Nového Jižního Walesu v Sydney (UNSW). Je silným zastáncem stanovení limitů, aby se zajistilo, že umělá inteligence bude využívána ke zlepšení života lidí.

Je také členem Australské akademie věd a byl jmenován do mezinárodního seznamu „vlivných lidí v oblasti umělé inteligence“.

(Vietnam+)

Zdroj: https://www.vietnamplus.vn/doanh-nghiep-su-dung-ai-co-trach-nhiem-se-mang-lai-loi-the-thuong-mai-post1080681.vnp