Предупреждение: ИИ может развить «волю к выживанию», выходящую за рамки человеческого контроля

Ведущий специалист в области компьютерных наук Йошуа Бенджио предупреждает, что если ИИ выйдет из-под контроля, «человечество может исчезнуть через 10 лет».

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 1. — Ученые опасаются потери контроля над ИИ — Иллюстрация: ChatGPT

7 февраля ведущий специалист по информатике предупредил о возможности того, что люди «потеряют контроль» над системами искусственного интеллекта (ИИ) в будущем, когда эти искусственные продукты разовьют «волю к выживанию».

Выступая на саммите по вопросам ИИ, проходящем в Париже, специалист по информатике Йошуа Бенжио призвал к более строгому международному регулированию и более масштабным исследованиям в области безопасности ИИ, на которые в настоящее время приходится лишь небольшая часть основных инвестиций, вкладываемых в эту область.

Появление высокопроизводительной и недорогой модели искусственного интеллекта DeepSeek в прошлом месяце ускорило борьбу за безопасность, считает лауреат престижной премии Тьюринга 2018 года в области компьютерных наук. Йошуа Бенджио предупредил, что если ИИ выйдет из-под контроля, «человечество может исчезнуть через 10 лет».

Он также призвал к лидерству государства в управлении ИИ. Этот призыв прозвучал после того, как США, ведущая в мире держава в области ИИ, предприняла ряд шагов по «развязыванию» развития этой технологии при новом президенте Дональде Трампе.

В настоящее время в Международном отчете о безопасности ИИ, представленном на конференции г-ном Йошуа Бенджио, также отмечаются такие известные риски, как использование ИИ для создания поддельного или вводящего в заблуждение контента на онлайн-платформах, при этом постоянно возникают дополнительные риски, такие как биологические атаки или кибератаки.

В подготовке доклада приняли участие около 100 экспертов из 30 стран, Организации Объединенных Наций, Европейского союза и Организации экономического сотрудничества и развития (ОЭСР). Это первый доклад о международной безопасности ИИ, подготовленный после саммита по безопасности ИИ в Великобритании в ноябре 2023 года.

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 2.

ЕС сталкивается со сложной проблемой управления ИИ

4 февраля Европейская комиссия опубликовала документ, регулирующий реализацию положений Закона об искусственном интеллекте (ИИ), вступающих в силу со 2 февраля, который вызвал неоднозначную реакцию.

Источник: https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm