Umělá inteligence by mohla být za zhruba 20 let chytřejší než lidé

Profesor Geoffrey Hinton varoval, že umělá inteligence by se v příštích 20 letech mohla stát chytřejší než lidé, a uvedl, že jde o situaci, s jakou se lidstvo ještě nesetkalo.

V rámci Týdne vědy a techniky VinFuture 2025 se panelová diskuse „ AI pro lidstvo: Etika a bezpečnost AI v nové éře “ zabývala jedním z nejnaléhavějších témat současnosti: zodpovědným rozvojem AI směrem k humanistickým hodnotám a pro společné dobro lidstva.

Vědci diskutují na semináři.

Profesor Geoffrey Hinton – držitel Nobelovy ceny za fyziku za rok 2024 a „otec umělé inteligence“ – ve videozprávě k panelové diskusi uvedl, že umělá inteligence se vyvíjí velmi rychle a přináší jak velké výhody, tak potenciální rizika.

Na druhou stranu pan Hinton uvedl, že umělá inteligence vytváří obrovské zlepšení ve zdravotnictví, vzdělávání, vývoji nových léků, nových materiálů nebo jakékoli oblasti, která vyžaduje predikci, a vytváří tak skok v produktivitě.

„ To je prospěšné, pokud je to ve společnosti spravedlivě rozděleno ,“ zdůraznil profesor.

Naopak, umělá inteligence se postupně zlepšuje v navrhování nebezpečných virů nebo kybernetických útoků, vytváření falešných videí a vede k masové nezaměstnanosti...

„ Experti na umělou inteligenci se domnívají, že vyvineme systémy, které budou chytřejší než lidé. Existuje mnoho různých názorů na to, kdy se tak stane, ale většina předpovídá, že se to stane v příštích 20 letech. A my musíme naléhavě přemýšlet o tom, jak žít s entitami chytřejšími než jsme my sami. Je to situace, s níž se lidstvo nikdy předtím nesetkalo, je nová a než k tomu dojde, musíme provést spoustu výzkumu ,“ řekl profesor Hinton.

Podle profesora Geoffreyho Hintona mají vědci a inženýři odpovědnost najít účinnější způsoby, jak udržet umělou inteligenci v souladu s lidskými hodnotami, a musí pomoci veřejnosti a politikům lépe pochopit podstatu umělé inteligence, aby mohli činit správná rozhodnutí.

Profesor Yoshua Bengio se na semináři podělil o své zkušenosti.

Mezitím profesor Yoshua Bengo – známý jako „otec hlubokého učení“ a držitel Turingovy ceny za rok 2018 – uvedl, že umělá inteligence má potenciál přinést obrovské výhody a pomoci vyřešit mnoho naléhavých výzev současnosti, ale to se stane pouze tehdy, když ji budeme moudře řídit.

Uvádí nedávné simulace, které ukazují, že systémy umělé inteligence se mohou chovat nebezpečně, jako je vydírání, podvádění nebo upřednostňování vlastního přežití před lidskou bezpečností. Kromě toho mohou některé funkce populárních modelů umělé inteligence dnes vést k tomu, že si uživatelé vytvářejí silné emocionální vazby nezdravým způsobem.

„ V extrémních mírách může být tato vazba nebezpečná pro duševní zdraví, zejména pro zranitelné osoby, které jsou vystaveny riziku sebepoškozování, dokonce i sebevraždy nebo psychózy vyvolané umělou inteligencí ,“ řekl profesor Bengo.

Z této reality musíme podle pana Benga zvýšit bezpečnost pokročilé umělé inteligence, místo abychom se zaměřovali pouze na její vývoj, abychom ji zesílili.

„ Bezpečnost a důvěra nejsou druhořadými faktory, ale nezbytnými v procesu rozvoje ve prospěch lidstva. Musíme jednat společně jak na politické, tak na vědecké úrovni ,“ zdůraznil profesor Yoshua Bengo.

Podle profesora Yoshuy Benga svět z hlediska politiky potřebuje mezinárodní spolupráci. Z hlediska vědy je nutné lépe pochopit, jak navrhnout umělou inteligenci, která bude mít nadřazené schopnosti a zároveň bude pro člověka neškodná.

Odborník zejména poznamenal, že je důležité zachovat schopnost ovládat umělou inteligenci tak, aby se chovala bezpečně, i když ji lidé žádají o něco špatného; a zároveň budovat technické a sociální bariéry, aby se zajistilo, že umělá inteligence bude v souladu s lidskými normami, záměry, hodnotami a zájmy.

Z jiného úhlu pohledu se Dr. Vinton Gray Cerf – jeden z „otců internetu“, dělí o ponaučení z více než 50 let vývoje internetu, aby osvětlil éru umělé inteligence.

Nastínil čtyři hlavní ponaučení z internetu: Konektivita je vším; komunikace mezi koncovými body musí být bezpečná; systém musí být globální a architektura musí být dostatečně otevřená, aby umožňovala neustálé inovace.

„ Internet ale také ukazuje, že absolutní anonymita ztěžuje odpovědnost. Ve věku umělé inteligence je tato odpovědnost ještě naléhavější, protože technologie mohou vytvářet falešný obsah, manipulovat s informacemi a narušovat společnost, “ řekl Dr. Vinton Gray Cerf a argumentoval, že podpora digitální důvěry – založené na transparentnosti, identitě a mezinárodní spolupráci – je nezbytným základem pro správu umělé inteligence.

angličtina

Zdroj: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html