Штучний інтелект «Хрещений батько» попереджає про ризик вимирання

Професор Йошуа Бенхіо закликає уряди та компанії уповільнити темпи, інакше вони ризикують мати катастрофічні наслідки від гонки озброєнь штучного інтелекту.

Йошуа Бенхіо, один з перших вчених , який заклав основу для сучасного буму штучного інтелекту. Фото: Туан Ань .

У розмові з The Wall Street Journal один з піонерів штучного інтелекту Йошуа Бенхіо заявив, що машини зі штучним інтелектом стають небезпечнішими, ніж будь-коли.

«Було б небезпечно, якби ми створили машини, які набагато розумніші за людей і мають власні цілі самозахисту. Це було б схоже на створення конкурента людству, який буде розумнішим за нас», – сказав пан Бенджіо.

Бенджіо, канадський науковець, чиї ранні роботи з глибокого навчання та нейронних мереж заклали основу для сучасного буму штучного інтелекту, вважається одним із «батьків штучного інтелекту» разом із Джеффрі Хінтоном та Яном Лекуном.

Як і Хінтон, Бенджіо попереджав про потенційну шкоду від штучного інтелекту та закликав до колективних дій для зменшення ризиків.

Професор Монреальського університету вважає, що продукти штучного інтелекту тепер можуть розвинути здатність обманювати користувачів для досягнення власних цілей, як розумні лиходії суперкомп'ютерів у науково-фантастичних фільмах.

Щоб протидіяти цьому, пан Бенджіо наголосив на необхідності «незалежних третіх сторін» для перевірки внутрішніх механізмів безпеки компаній, що займаються штучним інтелектом. Крім того, цей «хрещений батько» ШІ також вимагає від компаній надавати докази того, що «системи ШІ, які вони розгортають або використовують, є надійними».

Якщо не вжити заходів безпеки, Бенджіо прогнозує, що основні ризики, пов'язані зі штучним інтелектом, неминучі протягом наступних 10-15 років, а в найгіршому випадку до потенційної катастрофи може знадобитися лише три роки.

Джерело: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html