Демис Хассабис, генеральный директор DeepMind (подразделение Google, занимающееся исследованиями в области искусственного интеллекта), не слишком обеспокоен «апокалипсисом искусственного интеллекта» — его больше беспокоит риск попадания технологии в чужие руки и отсутствие гарантий для управления сложными автономными моделями искусственного интеллекта.
«Оба этих риска важны и сложны», — поделился он в интервью CNN на мероприятии SXSW, недавно прошедшем в Великобритании.
Генеральный директор Google DeepMind Демис Хассабис предупреждает о серьезных рисках, когда ИИ попадает в чужие руки. Фото: Bloomberg
На прошлой неделе генеральный директор Anthropic, известной лаборатории ИИ, выступил с суровым предупреждением о будущем рынка труда. Он предсказал, что ИИ может уничтожить половину всех рабочих мест для «белых воротничков». Но его больше всего беспокоит потенциальное злоупотребление «искусственным общим интеллектом» (AGI), типом ИИ, который теоретически способен достичь уровня человеческого интеллекта.
«Злой парень может перепрофилировать эти технологии для вредоносных целей», — сказал он. «Поэтому главный вопрос в том… как нам ограничить доступ к этим мощным системам для плохих парней… но при этом позволить хорошим парням делать с ними много хороших вещей?»
В мае ФБР заявило, что хакеры использовали ИИ для создания поддельных голосовых сообщений государственных чиновников. Отчет, заказанный Госдепартаментом США в прошлом году, также показал, что ИИ может представлять «катастрофические» риски для национальной безопасности, согласно CNN . ИИ также способствовал созданию deepfake-порно.
Хассабис не первый, кто поднимает такие вопросы. Хотя ИИ был воспринят как одно из крупнейших технологических достижений со времен Интернета, он также дает мошенникам и злоумышленникам больше инструментов, чем когда-либо прежде. Примечательно, что он быстро растет без особого регулирования.
Сразу после увольнения 6000 человек Microsoft продолжает увольнять сотни сотрудников. Спустя несколько недель после увольнения 6000 сотрудников Microsoft продолжает увольнять более 300 человек, в то время как компания тратит миллиарды долларов на искусственный интеллект (ИИ).
Хассабис считает, что необходимо международное соглашение об основных принципах использования ИИ и о том, как гарантировать, что эта технология будет использоваться только «в надлежащих случаях».
«Очевидно, что, учитывая текущую геополитическую ситуацию, это кажется сложным», — сказал он. «Но я надеюсь, что по мере улучшения ситуации и совершенствования ИИ мир будет все больше и больше осознавать, что это необходимо».
Генеральный директор DeepMind также считает, что мы движемся к будущему, в котором люди будут использовать «помощников» на основе искусственного интеллекта для выполнения задач от их имени. Google работает над достижением этой цели, интегрируя больше ИИ в свою функцию поиска и разрабатывая «умные» очки на базе ИИ.
«Иногда мы называем его всемогущим помощником на основе искусственного интеллекта, который будет сопровождать вас повсюду, помогать вам в повседневной жизни, выполнять за вас простые административные задачи, но также обогатит вашу жизнь, предлагая интересные вещи — от книг и фильмов до знакомств с друзьями», — поделился генеральный директор Google DeepMind.
Однако ИИ все еще подвержен ограничениям, таким как предвзятость и «галлюцинации», которые вызвали некоторые заметные проблемы для компаний, использующих эту технологию. Например, Chicago Sun-Times и Philadelphia Inquirer опубликовали сгенерированный ИИ список летнего чтения, в который вошли книги, которых не существовало.
Хассабис не верит, что ИИ сделает рабочие места устаревшими. Как и другие в области ИИ, он считает, что технология может создать новые типы рабочих мест и повысить производительность. Но он также признает, что обществу, скорее всего, придется адаптироваться и выяснить, как «распределить всю дополнительную производительность, которую ИИ создаст в экономике».
Он сравнивает ИИ с развитием других технологических изменений, таких как Интернет.
«Обычно появляются новые, еще более качественные рабочие места, чтобы заменить некоторые из рабочих мест, которые были вытеснены. Посмотрим, произойдет ли это в этот раз», — сказал он.
(По данным CNN)
Источник: https://vietnamnet.vn/ong-chu-veo-3-canh-bao-nguy-co-lon-hon-ca-viec-ai-gay-that-nghiep-hang-loat-2409366.html
Комментарий (0)