ИИ может стать умнее людей примерно через 20 лет

Предупреждая, что в ближайшие 20 лет ИИ может стать умнее людей, профессор Джеффри Хинтон заявил, что человечество еще никогда не сталкивалось с такой ситуацией.

В рамках Недели науки и технологий VinFuture 2025 состоялась панельная дискуссия « ИИ для человечества: этика и безопасность ИИ в новую эпоху », на которой обсуждалась одна из самых актуальных тем современности: ответственное развитие ИИ, ориентированное на гуманистические ценности и общее благо человечества.

Ученые обсуждают на семинаре.

Профессор Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года и почитаемый как «отец ИИ», в видеообращении к участникам панельной дискуссии заявил, что ИИ развивается очень быстро, принося как огромные преимущества, так и потенциальные риски.

Позитивным моментом, по словам г-на Хинтона, является то, что ИИ обеспечивает колоссальный прогресс в здравоохранении, образовании, разработке новых лекарств, новых материалов или в любой области, требующей прогнозирования, что приводит к скачку производительности.

« Это приносит пользу, если это справедливо распределено в обществе », — подчеркнул профессор.

Напротив, ИИ постепенно совершенствуется в разработке опасных вирусов или кибератак, создании фейковых видеороликов, приводящих к массовой безработице...

« Эксперты в области искусственного интеллекта считают, что мы создадим системы, которые будут умнее людей. Существует множество различных точек зрения на то, когда это произойдёт, но большинство прогнозирует, что это произойдёт в течение следующих 20 лет. И нам нужно срочно подумать о том, как жить с существами, которые умнее нас самих. Это ситуация, с которой человечество никогда раньше не сталкивалось, она новая, и нам нужно провести много исследований, прежде чем это произойдёт », — сказал профессор Хинтон.

По словам профессора Джеффри Хинтона, ученые и инженеры обязаны найти более эффективные способы соответствия ИИ человеческим ценностям и помочь общественности и политикам лучше понять природу ИИ, чтобы принимать правильные решения.

Профессор Йошуа Бенджио выступил на семинаре.

Тем временем профессор Йошуа Бенго, известный как «отец глубокого обучения» и лауреат премии Тьюринга 2018 года, заявил, что ИИ обладает потенциалом принести огромную пользу и помочь решить многие насущные проблемы современности, но это произойдет только в том случае, если мы будем управлять им мудро.

Он ссылается на недавние симуляции, которые показывают, что системы ИИ могут вести себя опасно, например, шантажировать, обманывать или ставить собственное выживание выше безопасности человека. Кроме того, некоторые особенности популярных сегодня моделей ИИ могут вызывать у пользователей сильную эмоциональную привязанность, которая может быть нездоровой.

« В крайних случаях эта привязанность может быть опасна для психического здоровья, особенно для уязвимых людей, которые подвержены риску членовредительства, даже самоубийства или психоза, вызванного ИИ », — сказал профессор Бенго.

Исходя из этой реальности, по словам г-на Бенго, мы должны повысить безопасность продвинутого ИИ, а не просто сосредотачиваться на его развитии с целью сделать его сильнее.

« Безопасность и доверие — не второстепенные, а важнейшие факторы процесса развития на благо человечества. Нам необходимо действовать сообща как на политическом, так и на научном уровне », — подчеркнул профессор Йошуа Бенго.

По словам профессора Йошуа Бенго, с точки зрения политики миру необходимо международное сотрудничество. С точки зрения науки необходимо лучше понимать, как создать искусственный интеллект, который одновременно превосходит человека по возможностям и при этом безвреден для него.

В частности, эксперт отметил сохранение возможности контролировать ИИ, чтобы он вел себя безопасно, даже когда люди просят его поступать неправильно; создание технических и социальных барьеров для обеспечения соответствия ИИ человеческим нормам, намерениям, ценностям и интересам.

С другой стороны, доктор Винтон Грей Серф — один из «отцов Интернета» — делится уроками, извлеченными из более чем 50-летнего опыта развития Интернета, чтобы пролить свет на эпоху ИИ.

Он выделил четыре главных урока, которые можно извлечь из Интернета: связь — это все; сквозная связь должна быть безопасной; система должна быть глобальной, а архитектура должна быть достаточно открытой, чтобы обеспечивать непрерывные инновации.

« Но интернет также показывает, что абсолютная анонимность затрудняет привлечение к ответственности. В эпоху искусственного интеллекта эта ответственность становится ещё более актуальной, поскольку технологии могут создавать фейковый контент, манипулировать информацией и разрушать общество », — сказал доктор Винтон Грей Серф, утверждая, что укрепление цифрового доверия, основанного на прозрачности, идентичности и международном сотрудничестве, является неотъемлемой основой для управления ИИ.

Английский

Источник: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html