«Крестный отец» ИИ предупреждает о риске вымирания

Профессор Йошуа Бенджио призывает правительства и компании замедлить гонку вооружений в области ИИ, иначе возникнет риск потенциально катастрофических последствий.

Йошуа Бенжио, один из первых учёных , заложивших основу современного бума искусственного интеллекта. Фото: Туан Ань .

В интервью The Wall Street Journal один из пионеров искусственного интеллекта Йошуа Бенджио заявил, что машины с искусственным интеллектом становятся опаснее, чем когда-либо.

«Было бы опасно, если бы мы создали машины, которые намного умнее людей и имеют собственные цели самозащиты. Это было бы всё равно что создать конкурента человечеству, который будет умнее нас», — сказал г-н Бенжио.

Бенджио — канадский ученый-исследователь, чьи ранние работы в области глубокого обучения и нейронных сетей заложили основу современного бума ИИ, считается одним из «отцов ИИ» наряду с Джеффри Хинтоном и Яном Лекуном.

Как и Хинтон, Бенджио предупреждает о потенциальном вреде ИИ и призывает к коллективным действиям по снижению рисков.

Профессор Монреальского университета считает, что продукты ИИ теперь могут развить способность обманывать пользователей для достижения собственных целей, подобно разумным суперкомпьютерным злодеям в научно-фантастических фильмах.

Чтобы противостоять этому, г-н Бенжио подчеркнул необходимость проверки внутренних механизмов безопасности компаний, занимающихся разработкой ИИ, «независимыми третьими сторонами». Кроме того, этот «крёстный отец» ИИ также требует от компаний предоставления доказательств того, что «развёртываемые или используемые ими системы ИИ заслуживают доверия».

Бенджио прогнозирует, что если не будут приняты меры безопасности, в ближайшие 10–15 лет неизбежны серьезные риски, связанные с ИИ, а в худшем случае потенциальная катастрофа произойдет всего через три года.

Источник: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html