Не дозвольте штучному інтелекту загрожувати життю людства

«Хрещені батьки штучного інтелекту», лауреати премії VinFuture 2024, вважають, що вченим потрібно переконатися, що сценарії ШІ не загрожують виживанню людства.

Сьогодні, 7 грудня, переможці премії VinFuture 2024 поспілкувалися зі студентами та молодими вченими Університету VinUni щодо наукових досліджень, а також майбутніх перспектив галузей, якими вони займаються. Тут переможці головного призу, видатні вчені, чиї новаторські роботи заклали основу для сучасної революції штучного інтелекту, розповіли про дивовижні досягнення штучного інтелекту.

Професор Янн ЛеКун (у центрі) та професор Йошуа Бенхіо (ліва обкладинка) на сесії обміну

«Це ніби ми перенеслися на 10 років у майбутнє».

Професор Джеффрі Хінтон з Університету Торонто (Канада) не приїхав до В'єтнаму для отримання нагороди, але взяв участь у відеообміну . ​​Він, професор Янн ЛеКун та професор Йошуа Бенхіо отримали премію Тюрінга (нагороду, яка вважається Нобелівською премією в галузі інформатики) у 2018 році, і міжнародні ЗМІ назвали їх усіх «хрещеними батьками штучного інтелекту». Тепер усіх трьох продовжують шанувати VinFuture 2024 у головній нагороді разом із двома іншими вченими: професором Фей Фей Лі (США) та паном Дженсеном Хуангом (генеральний директор NVIDIA).

За словами професора Хінтона, нещодавній бум у сфері штучного інтелекту є результатом трьох факторів. По-перше, це дослідження з розробки ефективніших методів навчання нейронних мереж, які проводили він, професор Йошуа, професор Янн та багато інших. По-друге, це надзвичайно швидка обчислювальна потужність графічних процесорів (GPU) та величезна кількість даних, які ми можемо збирати.

Професор Джеффрі Хінтон розповідає через відео

«Чудовим аспектом цієї нагороди (VinFuture 2024) є визнання роботи пана Дженсена Хуанга у створенні плат на графічних процесорах, корисних для штучного інтелекту. Поєднання плати на графічному процесорі Дженсена Хуанга та наборів даних професора Фей Фей Лі відіграло важливу роль у сучасному розвитку штучного інтелекту. Чудово, що їхню роботу визнають поряд з тими, хто працює над алгоритмами нейронних мереж», – сказав професор Хінтон.

«Ми виявили, що коли ми використовували графічні процесори для навчання нейронних мереж, вони були в 30 разів швидшими. Це був квантовий стрибок. Це було схоже на те, що швидкість обчислень випереджала свій час на 10 років. Раптом ми опинилися на 10 років попереду майбутнього за швидкістю обчислень. Це повністю змінило правила гри для ШІ, це було дивовижно!», – поділився професор Хінтон.

Вчені все ще працюють над тим, щоб краще зрозуміти зв'язки в нейронних мережах. Це допоможе їм створити штучний інтелект, який буде більше схожий на людський інтелект і навіть зможе пояснити інтуїцію. Традиційні логічні підходи ніколи не зможуть цього зробити.

«Я починаю боятися штучного інтелекту»

Професор Хінтон сказав, що сучасні великі нейронні мережі мають інтуїцію, подібну до людської. З минулого року він почав хвилюватися, що штучному інтелекту може знадобитися лише від 5 до 20 років, щоб стати таким же розумним, як люди. «Саме тоді я почав хвилюватися щодо ШІ. Зупинка розвитку – це не варіант. Тому єдиний варіант – спробувати з'ясувати, як забезпечити безпеку, коли він стане розумнішим за нас», – поділився професор Хінтон.

«Але я не думаю, що кінець світу неминучий», — каже професор Хінтон. «Однак, можливості не можна ігнорувати, і нам потрібно наполегливо працювати, щоб запобігти цьому. Сподіваємося, що найталановитіші студенти оберуть вивчення безпеки штучного інтелекту, розглядаючи широкий спектр загроз, від довгострокових загроз, таких як захоплення ШІ, до короткострокових загроз, таких як кіберзлочинність».

Професор Йошуа Бенгіо та професор Ян ЛеКун

Професор Янн Лекун сказав, що його також турбує ризик того, що ШІ домінуватиме над людьми, коли він буде таким же розумним, як люди. Однак, наразі відповіді ще немає. «Ми можемо програти, граючи в шахи з маленькою іграшкою вартістю 30 євро. Чи це небезпечно? Відповідь – ні. ШІ стає небезпечним лише тоді, коли ми створюємо мотивацію (для контролю людей) для ШІ. Але зараз ШІ має лише знання, а не мотивацію», – сказав професор Янн.

За словами професора Янна, створення ШІ, який активно служить людям, — це лише технічна проблема. Оскільки ШІ розумний, думка про те, що ШІ домінуватиме над людьми, є упередженням, адже реальність показує, що в суспільстві було багато розумних людей, але вони не домінували у світі ! ШІ — це все ще інструмент, проблема в людях, а не в ШІ.

За словами професора Йошуа Бенджіо, ми не можемо бути суб'єктивними, навіть невелика проблема може вплинути на виживання людства. Люди можуть мотивувати машини. Наприклад, хтось хоче перетворити машину на людину, створюючи враження, що машина має потребу «вижити», ми хочемо вимкнути машину, але вона відмовляється вимикатися. «Звичайно, ми повинні переконатися, що такий сценарій не станеться», – сказав професор Бенджіо.

Джерело: https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm