Не позволяйте ИИ угрожать выживанию человечества

«Крестные отцы ИИ», лауреаты премии VinFuture 2024, считают, что ученым необходимо гарантировать, что сценарии использования ИИ не будут угрожать выживанию человечества.

Сегодня, 7 декабря, лауреаты премии VinFuture 2024 пообщались со студентами и молодыми учёными Университета VinUni, обсудив научные исследования и перспективы направлений, в которых они работают. Лауреаты главной премии, выдающиеся учёные, чьи новаторские работы заложили основу современной революции искусственного интеллекта, рассказали о поразительных достижениях ИИ.

Профессор Янн Лекун (в центре) и профессор Йошуа Бенджио (слева на обложке) на сессии обмена опытом

«Мы как будто перенеслись на 10 лет в будущее».

Профессор Джеффри Хинтон из Университета Торонто (Канада) не приехал во Вьетнам для получения награды, но принял участие в видеообмене . Он, профессор Янн Лекун и профессор Йошуа Бенджио получили премию Тьюринга (премию, считающуюся аналогом Нобелевской премии в области компьютерных наук) в 2018 году, и все они были названы международными СМИ «крёстными отцами ИИ». Теперь все трое продолжают получать главную награду VinFuture 2024 вместе с двумя другими учёными: профессором Фэй Фэй Ли (США) и г-ном Дженсеном Хуангом (генеральным директором NVIDIA).

По словам профессора Хинтона, недавний бум в области искусственного интеллекта обусловлен тремя факторами. Во-первых, это исследования по разработке более эффективных методов обучения нейронных сетей, которые проводились им самим, профессором Йошуа, профессором Яном и многими другими. Во-вторых, это чрезвычайно высокая вычислительная мощность графических процессоров (GPU) и огромный объём данных, которые мы можем собирать.

Профессор Джеффри Хинтон делится своим опытом в видеоформате

«Важнейшим аспектом этой награды (VinFuture 2024) является признание пионерской работы г-на Дженсена Хуанга в создании графических процессоров, полезных для ИИ. Сочетание графической платы Дженсена Хуанга и наборов данных профессора Фэй Фэй Ли сыграло важную роль в современном развитии ИИ. Замечательно, что их работа отмечена наряду с работами, разрабатывающими алгоритмы нейронных сетей», — сказал профессор Хинтон.

«Мы обнаружили, что при использовании графических процессоров для обучения нейронных сетей они стали в 30 раз быстрее. Это был настоящий скачок. Казалось, что скорость вычислений опережала своё время на 10 лет. Внезапно мы оказались на 10 лет впереди будущего по скорости вычислений. Это был настоящий прорыв для искусственного интеллекта, это было потрясающе!» — поделился профессор Хинтон.

Учёные продолжают работать над более глубоким пониманием связей в нейронных сетях. Это поможет им создать искусственный интеллект, более похожий на человеческий, и даже способный объяснить интуицию. Традиционные логические подходы никогда не смогут этого сделать.

«Я начинаю бояться искусственного интеллекта»

Профессор Хинтон заявил, что современные крупные нейронные сети обладают интуицией, подобной человеческой. С прошлого года он начал беспокоиться, что ИИ может потребоваться всего 5–20 лет, чтобы достичь уровня человеческого интеллекта. «Именно тогда я и начал беспокоиться об ИИ. Останавливать разработку — не выход. Поэтому единственный выход — попытаться понять, как обеспечить безопасность, когда он станет умнее нас», — поделился профессор Хинтон.

«Но я не думаю, что конец света неизбежен», — говорит профессор Хинтон. «Однако нельзя игнорировать возможности, и нам нужно усердно работать, чтобы предотвратить это. Надеюсь, самые талантливые студенты выберут изучение безопасности ИИ, учитывая широкий спектр угроз: от долгосрочных, таких как захват ИИ, до краткосрочных, таких как киберпреступность».

Профессор Йошуа Бенджио и профессор Ян ЛеКун

Профессор Янн Лекун заявил, что его также беспокоит риск того, что ИИ станет доминировать над людьми, когда станет таким же умным, как люди. Однако на данный момент ответа на этот вопрос нет. «Мы можем проиграть, играя в шахматы с маленькой игрушкой стоимостью 30 евро. Опасно ли это? Ответ — нет. ИИ становится опасным только тогда, когда мы создаём для него мотивацию (контролировать людей). Но сейчас у ИИ есть только знания, а не мотивация», — сказал профессор Янн.

По словам профессора Янна, создание ИИ, активно служащего людям, — это всего лишь техническая проблема. Поскольку ИИ умен, думать, что ИИ доминирует над людьми, — предубеждение, ведь реальность показывает, что в обществе было много умных людей, но они не доминировали над миром ! ИИ — это всего лишь инструмент, проблема в людях, а не в ИИ.

По словам профессора Йошуа Бенджио, мы не можем быть субъективными: даже небольшая проблема может повлиять на выживание человечества. Люди способны мотивировать машины. Например, кто-то хочет превратить машину в человека, создавая видимость того, что машина нуждается в «выживании». Мы хотим выключить машину, но она отказывается. «Конечно, мы должны убедиться, что такой сценарий не повторится», — сказал профессор Бенджио.

Источник: https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm