«Крёстный отец ИИ» раскрывает единственный способ выживания человечества против сверхъестественного ИИ

(Дэн Три) - Джеффри Хинтон, известный как «крёстный отец искусственного интеллекта», выразил обеспокоенность тем, что технология, которую он помог создать, может в будущем уничтожить человечество.

Джеффри Хинтон, учёный в области информатики, заложивший основы развития искусственного интеллекта (ИИ), недавно предупредил, что существует вероятность того, что от 10 до 20% ИИ в будущем уничтожит человечество. Хинтон также сомневается в способности технологических компаний контролировать ИИ.

«Это не сработает (в вопросе способности технологических компаний контролировать ИИ). Они будут намного умнее нас. У них будет множество способов обойти контроль», — сказал Джеффри Хинтон.

Джеффри Хинтон известен как «Крестный отец ИИ», заложивший основу развития современного искусственного интеллекта (Фото: Pinterest).

Хинтон предупреждает, что в будущем системы искусственного интеллекта смогут контролировать людей так же легко, как взрослый может соблазнить трёхлетнего ребёнка конфетой. Хинтон приводит примеры систем искусственного интеллекта, которые уже готовы обманывать, мошенничать и дезинформировать для достижения своих целей.

По словам Хинтона, вместо того, чтобы заставлять ИИ подчиняться людям, он полагает, что единственным решением для человечества, позволяющим выжить в борьбе с ИИ, является интеграция «материнского инстинкта» в модели ИИ, чтобы они действительно заботились о людях, даже когда ИИ станет могущественнее и умнее всего человеческого интеллекта.

«Если системы ИИ станут умнее людей, у них быстро появятся две цели: одна — выжить, а другая — найти способы получить больше контроля. Любой вид ИИ будет стремиться к выживанию», — прокомментировал Джеффри Хинтон.

Именно поэтому важно интегрировать и развивать «материнские инстинкты» в модели ИИ, сказал он. Однако Хинтон отметил, что пока не совсем понимает, как это сделать технически, но подчеркнул, что специалистам по информатике необходимо найти решения для этого.

Эмметт Шир, исполняющий обязанности генерального директора OpenAI, заявил, что не удивится, если в будущем ИИ станет умнее, начнет угрожать людям и будет обходить приказы о закрытии.

«Сегодня ИИ всё ещё относительно слаб, но он стал гораздо умнее и мощнее. Он не остановится», — поделился Эмметт Шир.

ИИ развивается быстрее, чем ожидалось

Многие эксперты в области технологий считают, что ИИ развивается быстрее, чем ожидало человечество, и что в ближайшие несколько лет появится искусственный суперинтеллект, также известный как общий искусственный интеллект (ОИИ) — система ИИ, способная выполнять несколько задач одновременно.

Джеффри Хинтон сказал, что когда-то он считал, что человечеству потребуется от 30 до 50 лет, чтобы создать ОИИ, но теперь он видит, что этот момент наступит скорее.

«Можно предположить, что ОИИ появится в течение ближайших 5–20 лет», — прокомментировал Хинтон.

Хотя Хинтон обеспокоен тем, что в ходе разработки все еще будут допущены ошибки, которые могут вывести ИИ из-под контроля, он надеется, что эта технология проложит путь к прорывам в медицине и улучшит качество жизни человека.

«Мы найдём революционные лекарства, у нас будут гораздо более эффективные методы лечения рака, чем сегодня, благодаря ИИ. Например, ИИ поможет врачам анализировать и связывать огромные объёмы данных КТ и МРТ», — прокомментировал Джеффри Хинтон, но он не верит, что ИИ не сможет помочь людям обрести бессмертие.

На вопрос о том, что бы он сделал в прошлом, если бы знал, что ИИ будет развиваться так быстро, как сегодня, Хинтон ответил, что сожалеет о том, что сосредоточился только на том, чтобы заставить ИИ работать, не уделяя внимания другим вопросам.

«Жаль, что я не подумал о вопросах безопасности», — сказал Хинтон.

Профессор Джеффри Эверест Хинтон родился 6 декабря 1947 года в Лондоне, Англия. Он — учёный-компьютерщик и когнитивный психолог, известный как «крёстный отец ИИ» за свой новаторский вклад в области искусственного интеллекта (ИИ) и глубокого обучения.

В 2024 году профессор Хинтон получил Нобелевскую премию по физике за фундаментальные открытия в области машинного обучения с использованием искусственных нейронных сетей.

Также в 2024 году профессор Джеффри Хинтон, а также профессор Йошуа Бенджио, профессор Янн Лекун, профессор Фэй-Фэй Ли и генеральный директор компании по производству чипов Nvidia Дженсен Хуанг были отмечены и получили главную награду на церемонии награждения VinFuture 2024 за их большой вклад в области глубокого обучения и искусственного интеллекта.

Джеффри Хинтон, наряду с Йошуа Бенджио и Яном Лекуном, считаются «крестными отцами ИИ» за их исследования, которые заложили основу для многих важных достижений в развитии современного искусственного интеллекта.

Источник: https://dantri.com.vn/cong-nghe/bo-gia-ai-tiet-lo-cach-duy-nhat-de-nhan-loai-ton-tai-truoc-sieu-ai-20250819160130130.htm