 |
Jošua Bengio, jeden z prvních vědců , kteří položili základy moderního boomu umělé inteligence. Foto: Tuan Anh . |
V rozhovoru pro The Wall Street Journal jeden z průkopníků umělé inteligence, Yoshua Bengio, prohlásil, že stroje s umělou inteligencí se stávají nebezpečnějšími než kdy dříve.
„Bylo by nebezpečné, kdybychom vytvořili stroje, které jsou mnohem chytřejší než lidé a mají své vlastní cíle sebeobrany. Bylo by to jako vytvořit konkurenta lidstva a chytřejšího než my,“ řekl pan Bengio.
Bengio, kanadský vědec, jehož raná práce na hlubokém učení a neuronových sítích položila základy moderního boomu umělé inteligence, je spolu s Geoffreym Hintonem a Yannem LeCunem považován za jednoho z „otců umělé inteligence“.
Stejně jako Hinton, i Bengio varoval před potenciálními škodami umělé inteligence a vyzval ke kolektivní akci ke zmírnění rizik.
Profesor z Montrealské univerzity se domnívá, že produkty s umělou inteligencí si nyní mohou vyvinout schopnost klamat uživatele, aby sledovali své vlastní cíle, podobně jako inteligentní padouši z řad superpočítačů ve sci-fi filmech.
Aby se tomu vyvrátil, pan Bengio zdůraznil potřebu „nezávislých třetích stran“, které by přezkoumaly interní bezpečnostní mechanismy společností zabývajících se umělou inteligencí. Tento „kmotr“ umělé inteligence navíc vyžaduje, aby společnosti poskytly důkazy o tom, že „systémy umělé inteligence, které nasazují nebo používají, jsou důvěryhodné“.
Pokud nebudou přijata bezpečnostní opatření, Bengio předpovídá, že hlavní rizika spojená s umělou inteligencí jsou v příštích 10–15 letech nevyhnutelná, přičemž v nejhorším případě dojde k potenciální katastrofě až za pouhé tři roky.
Zdroj: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html
Komentář (0)