Nenechte umělou inteligenci ohrozit přežití lidstva.

„Kmotři umělé inteligence“, vítězové ceny VinFuture 2024, věří, že vědci musí zajistit, aby umělá inteligence neohrožovala přežití lidstva.

Dnes, 7. prosince, se vítězové ceny VinFuture 2024 setkali se studenty a mladými vědci na VinUni University a hovořili o vědeckém výzkumu a budoucích perspektivách svých oborů. Hlavní vítězové – brilantní vědci s průlomovými pracemi, které položily základy dnešní revoluce v oblasti umělé inteligence – zde hovořili o neuvěřitelném pokroku v oblasti umělé inteligence.

Profesor Yann LeCun (uprostřed) a profesor Yoshua Bengio (zcela vlevo) na výměnné akci.

„Měli jsme pocit, jako bychom skočili o deset let do budoucnosti.“

Místo cesty do Vietnamu, aby si cenu převzal, se profesor Geoffrey Hinton z University of Toronto v Kanadě zúčastnil výměny názorů prostřednictvím videa . Spolu s profesory Yannem LeCunem a Yoshuou Bengiem obdrželi v roce 2018 Turingovu cenu (považovanou za Nobelovu cenu za informatiku) a mezinárodní média je označují za „kmotry umělé inteligence“. Nyní jsou všichni tři oceněni na VinFuture 2024 hlavní cenou spolu s dalšími dvěma vědci, profesorem Fei Fei Li (USA) a Jensenem Huangem (generálním ředitelem společnosti NVIDIA).

Podle profesora Hintona je nedávný boom v oblasti umělé inteligence výsledkem tří faktorů. Zaprvé, výzkum zaměřený na vývoj efektivnějších metod učení neuronových sítí, na kterém on, profesor Yoshua, profesor Yann a mnoho dalších pracují. Kromě toho je tu extrémně rychlý výpočetní výkon grafických procesorů (GPU) a obrovské množství dat, která můžeme shromažďovat.

Profesor Geoffrey Hinton se o to podělil prostřednictvím videa.

„Skvělým aspektem tohoto ocenění (VinFuture 2024) je uznání průkopnické práce Jensena Huanga při vytváření užitečných grafických karet pro umělou inteligenci. Kombinace grafické karty Jensena Huanga a datové sady profesora Fei Fei Li hraje klíčovou roli v moderním vývoji umělé inteligence. Je skvělé, že úsilí obou je uznáváno spolu s těmi, kteří pracují s algoritmy neuronových sítí,“ řekl profesor Hinton.

Profesor Hinton se podělil: „Zjistili jsme, že když k trénování neuronových sítí používají grafické procesory (GPU), jsou 30krát rychlejší. To je obrovský skok. Je to, jako by výpočetní rychlost byla o 10 let napřed. Najednou jsme se z hlediska výpočetní rychlosti posunuli o 10 let do budoucnosti. To zcela změnilo pravidla hry pro umělou inteligenci, je to úžasné!“

Vědci se v současné době stále snaží lépe porozumět propojením v rámci neuronových sítí. To jim pomůže vytvořit typ umělé inteligence, která se bude více podobat lidské inteligenci a možná bude dokonce schopna vysvětlit intuici. Tradiční přístupy založené na logice by toho nikdy nedosáhly.

"Začínám se bát umělé inteligence."

Profesor Hinton poznamenává, že dnešní velké neuronové sítě disponují intuicí podobnou lidské. Od loňského roku se začal obávat, že by mohlo trvat jen 5 až 20 let, než se umělá inteligence stane stejně inteligentní jako lidé. „Tehdy jsem se začal umělé inteligence bát. Zastavení jejího vývoje nepřipadá v úvahu. A tak jedinou možností je pokusit se najít způsoby, jak zajistit její bezpečnost, až se stane chytřejší než my,“ sdělil profesor Hinton.

Profesor Hinton řekl: „Nemyslím si však, že ‚konec světa‘ je nevyhnutelný. Nemůžeme však ignorovat možnosti; musíme tvrdě pracovat, abychom mu zabránili. Doufejme, že se nejtalentovanější studenti rozhodnou studovat bezpečnost umělé inteligence a zabývat se rozmanitými hrozbami, od dlouhodobé hrozby převzetí kontroly umělou inteligencí až po krátkodobé hrozby, jako je kyberkriminalita.“

Profesor Yoshua Bengio a profesor Yann LeCun

Profesor Yann Lecun uvedl, že má také obavy z rizika, že se umělá inteligence stane stejně inteligentní jako lidé a ovládne lidstvo. Odpověď je však v současné době ne. „Můžeme prohrát šachovou partii s malou hračkou, která stojí 30 eur. Je to nebezpečné? Odpověď zní ne. Umělá inteligence se stává nebezpečnou pouze tehdy, když pro ni vytvoříme pobídky (lidskou kontrolu). V současné době má umělá inteligence pouze znalosti, nikoli pobídky,“ řekl profesor Yann.

Podle profesora Yanna je vytvoření umělé inteligence, která aktivně slouží lidstvu, pouze technická záležitost. Představa, že umělá inteligence ovládne lidstvo jen proto, že je inteligentní, je mylná, protože ve skutečnosti v průběhu dějin existovalo mnoho inteligentních lidí, přesto světu neovládli! Umělá inteligence nakonec zůstane nástrojem; problém spočívá v lidstvu, nikoli v umělé inteligenci.

Podle profesora Yoshuy Bengia nemůžeme být spokojení; i malý problém může ovlivnit přežití lidstva. Lidé mohou vnést do strojů motivaci. Například někdo by mohl chtít proměnit stroj v člověka a dát mu tak potřebu „přežití“. Možná bychom ho chtěli vypnout, ale on to odmítá. „Samozřejmě musíme zajistit, aby k tomuto scénáři nedošlo,“ řekl profesor Bengio.

Zdroj: https://thanhnien.vn/chu-nhan-giai-thuong-vinfuture-2024-khong-de-ai-de-doa-su-ton-vong-cua-nhan-loai-185241207195331155.htm