Umělá inteligence: Musíme zvýšit bezpečnost, místo abychom se soustředili pouze na vývoj silnějších systémů.

Vlivní světoví experti na umělou inteligenci varují, že místo pouhého zaměření na rozvoj umělé inteligence, která má vést k jejímu zesílení, se lidé musí naléhavě zamyslet nad tím, jak s umělou inteligencí žít – entitou chytřejší než oni sami, která jí brání v převzetí kontroly nad lidmi.

Panelová diskuse „AI pro lidstvo: Etika a bezpečnost AI v nové éře“ v rámci Týdne vědy a techniky VinFuture 2025 spojuje vědce , politiky a vynálezce, aby diskutovali o zodpovědném vývoji AI směrem k humanistickým hodnotám.

Naléhavě se zamyslete nad tím, jak žít s umělou inteligencí – entitou chytřejší než vy sami.

Profesor Toby Walsh z Univerzity Nového Jižního Walesu v Austrálii, akademik Americké počítačové asociace, na semináři prohlásil: „Pevně ​​věřím, že zodpovědné používání umělé inteligence by mělo být povinné. Dnes existuje mnoho zvrácených pobídek, díky umělé inteligenci se vydělávají obrovské částky peněz, a jediný způsob, jak zajistit správné chování, je uplatňovat přísné předpisy, aby veřejné zájmy byly vždy v rovnováze se zájmy komerčními.“

Uvedl typický příklad důležitých rozhodnutí, jako je vynášení rozsudků ve Spojených státech, kde byl systém umělé inteligence použit k vydávání doporučení ohledně trestu odnětí svobody a pravděpodobnosti recidivy. Tento systém byl bohužel trénován na historických datech a neúmyslně odrážel minulé rasové předsudky, což vedlo k diskriminaci černochů.

Profesor Toby Walsh, Univerzita Nového Jižního Walesu, Austrálie, člen Americké počítačové společnosti.

Společnosti, které zavádějí a provozují systémy umělé inteligence, proto musí nést odpovědnost za důsledky, které tyto „stroje“ způsobují.

Profesor Geoffrey Hinton – vítěz hlavní ceny VF 2024, se obává, že se umělá inteligence postupně zlepšuje v navrhování nebezpečných virů, kybernetických útoků a vytváření falešných videí k narušení voleb. V příštích 20 letech se umělá inteligence stane chytřejší než my a nebudeme vědět, jak jí zabránit v převzetí kontroly od lidí.

Proto tento profesor zdůraznil: „Musíme naléhavě přemýšlet o tom, jak žít s entitami chytřejšími než jsme my sami. Je to situace, s níž se lidstvo nikdy předtím nesetkalo, je nová a než k tomu dojde, musíme vynaložit velké úsilí na výzkum.“

Potřeba posílit mezinárodní spolupráci s cílem omezit rizika umělé inteligence

Profesor Yoshua Bengio – vítěz hlavní ceny VinFuture 2024 – sdílí tuto obavu a uvedl, že modely umělé inteligence, jejich schopnosti a úrovně autonomie se stále vyvíjejí rychlým a stabilním tempem. Pokud tento trend bude pokračovat, autonomní systémy umělé inteligence by mohly během pouhých 5–10 let překonat lidi ve většině kognitivních úkolů.

To by byl historický zlom, který by mohl dramaticky zlepšit kvalitu našeho života. Pokud se s ním ale nebude zacházet opatrně, mohl by také představovat obrovská rizika pro demokracii, geopolitickou stabilitu a dokonce i budoucnost lidstva.

„Musíme zvýšit bezpečnost pokročilé umělé inteligence, místo abychom se zaměřovali pouze na její posílení. Bezpečnost a důvěra nejsou druhořadými faktory, ale nezbytnými v procesu vývoje ve prospěch lidstva. Musíme jednat společně jak na politické, tak na vědecké úrovni,“ řekl.

Profesor Yoshua Bengio - vítěz hlavní ceny VinFuture 2024.

Tento vědec doporučuje, že z hlediska politiky svět potřebuje mezinárodní spolupráci. Z hlediska vědy je nutné lépe pochopit, jak navrhnout umělou inteligenci, která bude mít nadřazené schopnosti a zároveň bude pro člověka neškodná, jak si udržet schopnost ovládat umělou inteligenci tak, aby se chovala bezpečně, i když ji lidé požádají o něco špatného, ​​a jak vybudovat technické a sociální bariéry, aby se zajistilo, že umělá inteligence bude v souladu s lidskými normami, záměry, hodnotami a zájmy.

Dr. Vinton Grey Cert (viceprezident a ředitel internetové evangelizace ve společnosti Google - vítěz hlavní ceny VF 2022) souhlasí: Musíme volat umělou inteligenci k odpovědnosti, zavést řetězec kontroly, abychom věděli, co dělá, kdy, zejména když se něco pokazí. Mnoho principů, které platí pro lidi, se bude vztahovat i na agenty umělé inteligence v online prostředí.

„Musíme současně zavést nové normy, kde se používání silné identifikace, kryptografie k zabezpečení informací, uplatňování mechanismů k zajištění odpovědnosti a ochrany identit před únosem jinými osobami stane běžným zvykem. Měli bychom používat technologie k omezení rizik od samého začátku a jasně uvést, že každý, u koho se zjistí, že je škodlivý pro komunitu a společnost, musí čelit důsledkům svého chování. To vyžaduje mezinárodní spolupráci,“ řekl.

Vietnam potřebuje mít vlastní cestu k budování dat z umělé inteligence.

Docent Luu Anh Tuan z Technologické univerzity Nanyang (Singapur) a Univerzity VinUni (Vietnam) uvedl, že jiné země mají datové soubory za zhruba 10 let, ale Vietnam začíná od nuly. Proto můžeme od začátku budovat udržitelná data a poskytovat čistá, etická a kulturně vhodná data.

Největší výzvou pro Vietnam je však specifičnost vietnamského jazyka. Máme rozmanitý dialektový systém, bohatou regionální kulturu a extrémně složité oslovovací formy. Velké modely jako ChatGPT nebo Gemini vietnamštinu podporují, ale kvalita není hluboká, protože nerozumí vietnamskému dialektu, zvykům ani historii.

Vietnam si potřebuje vybudovat vlastní vietnamský model. Kromě toho bychom měli vyvinout model s otevřeným zdrojovým kódem, aby jej mohly využívat a přispívat k němu malé podniky. „Pokud se budeme spoléhat pouze na zahraniční modely ve formě ‚černých skříňek‘, budeme pouze uživateli umělé inteligence , nikoli jejími vývojáři,“ řekl.

Docent Luu Anh Tuan a jeho kolegové v současné době vytvářejí data pro vietnamskou umělou inteligenci. Zaměřit se je třeba na faktory, jako je dialekt, historie a kultura.

Řekl také, že v zahraničí se studenti vzdělávají o umělé inteligenci velmi brzy. Vietnam s tím teprve začíná, ale my můžeme proces urychlit tím, že se budeme učit a budeme se podle toho přizpůsobovat.

„Mladí Vietnamci jsou velmi dynamičtí; jen potřebují být plně vzděláni v oblasti digitální odpovědnosti. Měli bychom mít jednotný orgán, který by potvrzoval a standardizoval kvalitu dat a etické standardy. VinUni se také účastní činnosti rady, která vybuduje systém etických standardů, a bude k tomuto procesu i nadále přispívat,“ řekl.

Docent Luu Anh Tuan, Technologická univerzita Nanyang (Singapur), Univerzita VinUni (Vietnam).

V reakci na strategii přímých zahraničních investic, jejímž cílem je, aby se Vietnam do roku 2030 stal lídrem v regionu v oblasti umělé inteligence, se docent Tuan domnívá, že Vietnam má vysoce kvalitní lidské zdroje – což dokazují mezinárodní úspěchy v matematice, fyzice a chemii. Pokud budeme vědět, jak shromáždit síly a mít silnou politiku, lze cíle pro rok 2030 plně dosáhnout.

Profesor Toby Walsh doporučuje, aby Vietnam investoval do lidí a proaktivně zlepšoval jejich dovednosti, zajistil, aby umělé inteligenci rozuměli, a podporoval podnikatele, firmy a univerzity v oblasti umělé inteligence. Místo čekání na to, až nám jiné země přenesou technologie nebo nás povedou, musíme být proaktivní a technologie zvládnout.

Vietnam navíc potřebuje silně mobilizovat platformy sociálních sítí, aby vytvořil bezpečné prostředí pro domácí uživatele, aniž by to ovlivnilo demokracii v zemi.

THAO LE-THIEN LAM

Zdroj: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html