Ministr Nguyen Manh Hung: Problémy způsobené umělou inteligencí by mohly být větší než atomové bomby

Podle ministra Nguyen Manh Hunga může být síla umělé inteligence větší než jaderná energie, takže problémy umělé inteligence mohou být ještě větší než atomové bomby. Umělá inteligence a její problémy budou existovat vždy, nelze je odstranit, proto musíme žít společně a moudře hospodařit.

Pan Nguyen Manh Hung - ministr vědy a technologií hovoří na konferenci - Foto: NGUYEN BAO

Ministr vědy a technologií tyto komentáře pronesl na vědecké konferenci Neomezená moc a nepředvídatelné výzvy umělé inteligence (AI) - negativní dopady a politické reakce, která se konala 15. září ráno.

Umělá inteligence představuje nebývalé výzvy

Na workshopu řečníci poukázali na oboustrannou povahu umělé inteligence, komplexní posouzení jejího dopadu na ekonomiku , vzdělávání, zdraví, kulturu, udržitelný rozvoj, národní obranu a bezpečnost atd.

Podle generála Luong Tam Quanga, ministra veřejné bezpečnosti, je umělá inteligence (AI) v období čtvrté průmyslové revoluce považována za jednu z klíčových technologií, za faktor, který může v budoucnu vést ke změnám v globálním řádu.

Díky schopnosti podporovat hospodářský růst, optimalizovat výrobu, zlepšovat zdravotní péči, inovovat vzdělávání a posilovat kapacity sociální správy pomáhá umělá inteligence zemím šetřit náklady, zvyšovat efektivitu, rozšiřovat znalosti a je zdrojem, silou a hnací silou k upevnění národní pozice v digitálním věku.

Kromě svého potenciálu představuje umělá inteligence také bezprecedentní výzvy, pokud jde o právní mezery, etická rizika, zneužívání technologií pro kyberkriminalitu, informační válku, porušování ochrany osobních údajů a zejména riziko dopadu na národní obranu a bezpečnost.

Generál Luong Tam Quang, ministr veřejné bezpečnosti, hovoří na konferenci - Foto: NGUYEN BAO

Profesor Nguyen Xuan Thang, ředitel Národní politické akademie Ho Či Minova království, uvedl, že kromě velkého potenciálu má umělá inteligence mnoho vážných a nepředvídatelných rizik.

Obzvláště znepokojivá je potenciální ztráta kontroly nad samoučícími se a samoadaptačními systémy umělé inteligence, zejména proto, že se vyvíjejí za hranice lidského chápání a dohledu.

Podle pana Thanga má umělá inteligence negativní dopady na trh práce, protože mnoho tradičních povolání je nahrazováno, což vede ke zvýšenému riziku nezaměstnanosti, zejména u nekvalifikovaných pracovníků nebo těch, kteří nemají digitální dovednosti.

Zejména pokud jsou tréninková data zkreslená, umělá inteligence bude reprodukovat a zesilovat sociální zkreslení, což povede k zkresleným a nespravedlivým rozhodnutím.

Kromě toho může být umělá inteligence zneužita k nebezpečným činnostem, jako jsou online podvody, šíření falešných zpráv, falešných hlasů a obrázků (deepfake), což způsobuje veřejný zmatek a ovlivňuje bezpečnost a společenský řád; může být zneužívána k provádění sofistikovaných kybernetických útoků s cílem infiltrovat a zničit informační systémy, důležitou infrastrukturu nebo odcizit data a státní tajemství.

„Závod o rozvoj umělé inteligence mezi zeměmi riskuje vytvoření strategické nerovnováhy a podporu vojenského napětí, zejména při absenci mezinárodních právních rámců pro kontrolu používání umělé inteligence v obraně a bezpečnosti.“

„Umělá inteligence je proto nástrojem pro posílení obranných a bezpečnostních schopností a zároveň potenciálním zdrojem rizik pro světový mír a bezpečnost, pokud není používána zodpovědně a transparentně,“ uvedl pan Thang.

Prof. Dr. Nguyen Xuan Thang - ředitel Hočiminovy ​​národní akademie politiky - hovoří na konferenci - Foto: NGUYEN BAO

Problémy s umělou inteligencí, které může umělá inteligence sama vyřešit

Na konferenci ministr vědy a technologií Nguyen Manh Hung uvedl, že Vietnam vydal svou první strategii pro umělou inteligenci v roce 2021. Umělá inteligence je však rychle se měnící oblast a do konce letošního roku bude provedena aktualizace národní strategie pro umělou inteligenci a zákona o umělé inteligenci.

Podle ministra Nguyen Manha Hunga se nejedná jen o právní rámec, ale také o prohlášení o národní vizi. Umělá inteligence se musí stát intelektuální infrastrukturou země, sloužit lidem, rozvíjet se udržitelným způsobem a zvyšovat národní konkurenceschopnost.

Umělá inteligence otevírá velké příležitosti, ale také vyvolává mnoho otázek týkajících se etiky, zaměstnanosti a sociální důvěry. Vietnam proto musí vyvinout umělou inteligenci, která bude rychlá, bezpečná a humánní.

Umělá inteligence je pro lidi, nenahrazuje je, ale slouží lidem, je jejich asistentem. Umělá inteligence je mocný nástroj, ale lidé jsou ti, kdo rozhodují. Nechť umělá inteligence podporuje, ne nahrazuje lidské myšlení, hodnoty a odpovědnosti.

Ministr Nguyen Manh Hung poznamenal: „Síla umělé inteligence může být větší než jaderná energie, a proto její problémy mohou být větší než atomové bomby. Ale umělá inteligence a její problémy jsou dvojčata, jako jin a jang, jako dvě strany mince, které se na sebe spoléhají, aby koexistovaly a rozvíjely se, a vzájemně se transformují.“

Problémy s umělou inteligencí lze vyřešit samotnou umělou inteligencí, například školením lidských zdrojů v oblasti umělé inteligence v používání samotné technologie umělé inteligence nebo odhalováním porušení etických zásad umělé inteligence také pomocí samotné umělé inteligence.

Umělá inteligence roste s problémy, které vytváří. Bez problémů s umělou inteligencí nedojde k jejímu růstu. Mezi umělou inteligencí a jejími problémy je velké „a“. Umělá inteligence a její problémy budou existovat vždy, nemůžeme je eliminovat, ale musíme s nimi žít a moudře je řešit.

Bude vydán národní etický kodex pro umělou inteligenci

Podle ministra Nguyen Manh Hunga bude v blízké budoucnosti vydán národní etický kodex pro umělou inteligenci, který bude v souladu s mezinárodními standardy, ale bude navržen tak, aby vyhovoval vietnamské praxi, a zákon o umělé inteligenci a strategie pro umělou inteligenci budou vybudovány podle následujících klíčových hledisek:

Nejprve řiďte podle úrovně rizika.

Za druhé, transparentnost a odpovědnost.

Za třetí, postavte lidi do středu pozornosti.

Za čtvrté, podporovat domácí rozvoj umělé inteligence a autonomii umělé inteligence.

Za páté, berte umělou inteligenci jako hnací sílu rychlého a udržitelného růstu.

Za šesté, ochrana digitální suverenity. Data, infrastruktura a technologie umělé inteligence jsou třemi strategickými pilíři digitální suverenity.

Zpět k tématu

NGUYEN BAO

Zdroj: https://tuoitre.vn/bo-truong-nguyen-manh-hung-van-de-cua-ai-tao-ra-co-the-lon-hon-bom-nguyen-tu-20250915103427851.htm