Штучний інтелект може стати розумнішим за людей приблизно через 20 років

Професор Джеффрі Хінтон, попереджаючи, що штучний інтелект може стати розумнішим за людей протягом наступних 20 років, сказав, що людство ще ніколи не стикалося з такою ситуацією.

В рамках Тижня науки і технологій VinFuture 2025 відбулася панельна дискусія « Штучний інтелект для людства: етика та безпека ШІ в нову епоху », присвячена одній з найактуальніших тем сьогодення: відповідальному розвитку ШІ, спрямованому на гуманістичні цінності та заради спільного блага людства.

Вчені обговорюють це на семінарі.

Надіславши відеозвернення до панельної дискусії, професор Джеффрі Хінтон, лауреат Нобелівської премії з фізики 2024 року, якого вшановують як «батька штучного інтелекту», зазначив, що штучний інтелект розвивається дуже стрімко, приносячи як великі переваги, так і потенційні ризики.

З позитивного боку, за словами пана Хінтона, штучний інтелект створює величезні покращення в охороні здоров'я, освіті, розробці нових ліків, нових матеріалів або будь-якій галузі, яка потребує прогнозування, створюючи стрибок у продуктивності.

« Це корисно, якщо справедливо розподіляється в суспільстві », – наголосив професор.

Навпаки, ШІ поступово вдосконалюється у розробці небезпечних вірусів або кібератак, створенні фальшивих відео, що призводить до масового безробіття...

« Експерти зі штучного інтелекту вважають, що ми розробимо системи, які будуть розумнішими за людей. Існує багато різних поглядів на те, коли це станеться, але більшість прогнозує це протягом наступних 20 років. І нам потрібно терміново подумати про те, як жити з сутностями, розумнішими за нас самих. Це ситуація, з якою людство ніколи раніше не стикалося, вона нова, і нам потрібно провести багато досліджень, перш ніж це станеться », – сказав професор Хінтон.

За словами професора Джеффрі Хінтона, вчені та інженери несуть відповідальність за пошук ефективніших способів забезпечення відповідності штучного інтелекту людським цінностям, а також повинні допомогти громадськості та політикам краще зрозуміти природу штучного інтелекту, щоб приймати правильні рішення.

Професор Йошуа Бенджіо виступив на семінарі.

Тим часом професор Йошуа Бенго, відомий як «батько глибокого навчання» та лауреат премії Тюрінга 2018 року, заявив, що штучний інтелект має потенціал принести величезну користь, щоб допомогти вирішити багато нагальних проблем часу, але це станеться лише тоді, коли ми будемо керувати ним мудро.

Він посилається на нещодавні симуляції, які показують, що системи штучного інтелекту можуть поводитися небезпечно, наприклад, шантажувати, обманювати або ставити власне виживання вище за безпеку людини. Крім того, деякі функції популярних сьогодні моделей штучного інтелекту можуть призвести до формування у користувачів сильної емоційної прив'язаності нездоровим чином.

« На надзвичайних рівнях ця прив’язаність може бути небезпечною для психічного здоров’я, особливо для вразливих людей, які ризикують заподіяти собі шкоду, навіть самогубство чи психоз, викликаний штучним інтелектом », – сказав професор Бенго.

Виходячи з цієї реальності, на думку пана Бенго, ми повинні підвищити безпеку передового штучного інтелекту, а не просто зосереджуватися на його розвитку, щоб зробити його сильнішим.

« Безпека та довіра — це не другорядні фактори, а важливі в процесі розвитку на благо людства. Нам потрібно діяти разом як на політичному, так і на науковому рівнях », — наголосив професор Йошуа Бенго.

За словами професора Йошуа Бенго, з точки зору політики, світ потребує міжнародної співпраці. З точки зору науки, необхідно краще зрозуміти, як розробити штучний інтелект, який буде водночас перевершувати можливості та бути нешкідливим для людини.

Зокрема, експерт зазначив, що необхідно підтримувати здатність контролювати ШІ, щоб він поводився безпечно, навіть коли люди просять його зробити щось неправильне; створювати технічні та соціальні бар'єри для забезпечення відповідності ШІ людським нормам, намірам, цінностям та інтересам.

З іншої точки зору, доктор Вінтон Грей Серф – один із «батьків Інтернету», ділиться уроками понад 50 років розвитку Інтернету, щоб пролити світло на еру штучного інтелекту.

Він окреслив чотири основні уроки, отримані з Інтернету: зв'язок – це все; наскрізний зв'язок має бути безпечним; система має бути глобальною, а архітектура має бути достатньо відкритою, щоб забезпечити постійні інновації.

« Але інтернет також показує, що абсолютна анонімність ускладнює підзвітність. В епоху штучного інтелекту ця підзвітність стає ще більш актуальною, оскільки технології можуть створювати фальшивий контент, маніпулювати інформацією та порушувати суспільство », – сказав доктор Вінтон Грей Серф, стверджуючи, що сприяння цифровій довірі – на основі прозорості, ідентичності та міжнародної співпраці – є невід’ємною основою для управління ШІ.

Англійська

Джерело: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html