Nenechte umělou inteligenci ohrozit přežití lidstva

„Kmotři umělé inteligence“, vítězové ceny VinFuture 2024, věří, že vědci musí zajistit, aby scénáře umělé inteligence neohrozily přežití lidstva.

Dnes, 7. prosince, se vítězové ceny VinFuture 2024 setkali se studenty a mladými vědci na VinUni University a hovořili o vědeckém výzkumu a budoucích perspektivách oborů, kterým se věnují. Vítězové hlavní ceny, vynikající vědci, jejichž průlomové práce položily základy dnešní revoluce v oblasti umělé inteligence, zde hovořili o úžasném pokroku umělé inteligence.

Profesor Yann LeCun (uprostřed) a profesor Yoshua Bengio (levá obálka) na výměnné schůzce

"Je to, jako bychom skočili o 10 let do budoucnosti."

Profesor Geoffrey Hinton z University of Toronto v Kanadě, který nepřijel do Vietnamu, se videohovoru zúčastnil. On, profesor Yann LeCun a profesor Yoshua Bengio, obdrželi v roce 2018 Turingovu cenu (ocenění považované za Nobelovu cenu v oblasti informatiky) a mezinárodní média je všechny označila za „kmotry umělé inteligence“. Nyní jsou všichni tři i nadále oceňováni na VinFuture 2024 v hlavní soutěži spolu s dalšími dvěma vědci, profesorem Fei Fei Li (USA) a panem Jensenem Huangem (generálním ředitelem společnosti NVIDIA).

Podle profesora Hintona je nedávný boom umělé inteligence výsledkem tří faktorů. Zaprvé je to výzkum zaměřený na vývoj efektivnějších metod učení neuronových sítí, který provedli on, profesor Yoshua, profesor Yann a mnoho dalších. Zadruhé je tu extrémně rychlý výpočetní výkon grafických procesorů (GPU) a obrovské množství dat, která můžeme shromažďovat.

Profesor Geoffrey Hinton sdílí prostřednictvím videa

„Skvělým aspektem tohoto ocenění (VinFuture 2024) je uznání práce pana Jensena Huanga, který byl průkopníkem ve vytváření desek GPU, které jsou užitečné pro umělou inteligenci. Kombinace desky GPU Jensena Huanga a datových sad profesora Fei Fei Liho sehrála důležitou roli v moderním vývoji umělé inteligence. Je skvělé, že jejich práce je uznávána spolu s těmi, kteří pracují na algoritmech neuronových sítí,“ řekl profesor Hinton.

„Zjistili jsme, že když jsme k trénování neuronových sítí použili GPU, byly 30krát rychlejší. To byl kvantový skok. Bylo to, jako by výpočetní rychlost byla o 10 let napřed. Najednou jsme byli o 10 let napřed oproti budoucnosti, co se týče výpočetní rychlosti. To byl pro umělou inteligenci naprostý zlom, bylo to úžasné!“ sdílel profesor Hinton.

Vědci stále pracují na tom, aby lépe porozuměli propojením v neuronových sítích. To jim pomůže vytvořit umělou inteligenci, která se bude více podobat lidské inteligenci a dokonce dokáže vysvětlit intuici. Tradiční logické přístupy to nikdy nedokážou.

"Začínám se bát umělé inteligence."

Profesor Hinton uvedl, že dnešní velké neuronové sítě mají intuici podobným způsobem jako lidé. Od loňského roku se začal obávat, že by mohlo trvat pouhých 5 až 20 let, než by umělá inteligence byla stejně chytrá jako lidé. „Tehdy jsem se začal obávat umělé inteligence. Zastavení vývoje nepřipadá v úvahu. A tak jedinou možností je pokusit se přijít na to, jak zajistit bezpečnost, až se stane chytřejší než my,“ sdělil profesor Hinton.

„Ale nemyslím si, že konec světa je nevyhnutelný,“ říká profesor Hinton. „Možnosti však nelze ignorovat a musíme tvrdě pracovat, abychom jim zabránili. Doufejme, že se nejtalentovanější studenti rozhodnou studovat bezpečnost umělé inteligence a zabývat se širokou škálou hrozeb, od dlouhodobých hrozeb, jako je převzetí společností umělou inteligencí, až po krátkodobé hrozby, jako je kyberkriminalita.“

Profesor Yoshua Bengio a profesor Yann LeCun

Profesor Yann Lecun uvedl, že se také obává rizika, že umělá inteligence bude dominovat lidem, až bude stejně chytrá jako lidé. Aktuální odpověď však zatím neexistuje. „Můžeme prohrát, když hrajeme šachy s malou hračkou v hodnotě 30 eur. Je to nebezpečné? Odpověď zní ne. Umělá inteligence se stává nebezpečnou pouze tehdy, když pro ni vytvoříme motivaci (k ovládání lidí). Ale v tuto chvíli má umělá inteligence pouze znalosti, nikoli motivaci,“ řekl profesor Yann.

Podle profesora Yanna je vytvoření umělé inteligence, která aktivně slouží lidem, pouze technický problém. Protože umělá inteligence je chytrá, je domněnka, že bude lidem dominovat, předsudek. Realita ukazuje, že ve společnosti bylo mnoho chytrých lidí, ale světu nedominovali! Umělá inteligence je stále nástroj, problém je v lidech, nikoli v ní.

Podle profesora Yoshuy Bengia nemůžeme být subjektivní, i malý problém může ovlivnit přežití lidstva. Lidé mohou do strojů vložit motivaci. Například někdo chce proměnit stroj v člověka a vyvolat dojem, že stroj potřebuje „přežít“, my chceme stroj vypnout, ale on se vypnout odmítá. „Samozřejmě se musíme ujistit, že k tomuto scénáři nedojde,“ řekl profesor Bengio.

Zdroj: https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm