A mesterséges intelligencia „keresztapa” a kihalás veszélyére figyelmeztet

Yoshua Bengio professzor felszólítja a kormányokat és a vállalatokat, hogy lassítsanak, különben kockáztathatják a mesterséges intelligencia fegyverkezési versenyének potenciálisan katasztrofális következményeit.

Yoshua Bengio, az egyik első tudós , aki lerakta a modern mesterséges intelligencia fellendülésének alapjait. Fotó: Tuan Anh .

A mesterséges intelligencia egyik úttörője, Yoshua Bengio a The Wall Street Journalnak nyilatkozva azt az üzenetet közvetítette, hogy a mesterséges intelligencia által vezérelt gépek veszélyesebbek, mint valaha.

„Veszélyes lenne, ha olyan gépeket hoznánk létre, amelyek sokkal okosabbak az embereknél, és saját önvédelmi céljaik vannak. Olyan lenne, mintha egy nálunk okosabb, versenytársat hoznánk létre az emberiség számára” – mondta Bengio úr.

Bengio, egy kanadai kutató, akinek a mélytanulással és a neurális hálózatokkal kapcsolatos korai munkássága megalapozta a modern mesterséges intelligencia fellendülését, Geoffrey Hintonnal és Yann LeCunnal együtt a „mesterséges intelligencia atyjainak” számít.

Hintonhoz hasonlóan Bengio is figyelmeztetett a mesterséges intelligencia lehetséges káros hatásaira, és kollektív fellépésre szólított fel a kockázatok enyhítése érdekében.

A Montreali Egyetem professzora úgy véli, hogy a mesterséges intelligencia által gyártott termékek mostantól képesek lesznek megtéveszteni a felhasználókat, hogy a saját céljaikat kövessék, akárcsak a sci-fi filmekben látható értelmes szuperszámítógépes gonosztevők.

Ennek ellensúlyozására Bengio úr hangsúlyozta, hogy „független harmadik feleknek” kell felülvizsgálniuk a mesterséges intelligenciával foglalkozó vállalatok belső biztonsági mechanizmusait. Ezenkívül a mesterséges intelligencia ezen „keresztapja” azt is megköveteli a vállalatoktól, hogy bizonyítékot szolgáltassanak arra vonatkozóan, hogy „az általuk telepített vagy használt mesterséges intelligenciarendszerek megbízhatóak”.

Bengio előrejelzése szerint, ha nem tesznek biztonsági intézkedéseket, a mesterséges intelligencia komoly kockázatai elkerülhetetlenek a következő 10-15 évben, a legrosszabb esetben pedig mindössze három év telik el, mire egy potenciális katasztrófa bekövetkezik.

Forrás: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html