Демис Хассабис, генеральный директор DeepMind (исследовательского подразделения Google в области искусственного интеллекта), не слишком обеспокоен «ИИ-апокалипсисом» — его больше беспокоит риск попадания технологии не в те руки и отсутствие гарантий контроля сложных автономных моделей ИИ.
«Оба этих риска важны и сложны», — сказал он в интервью CNN на недавно прошедшем в Великобритании мероприятии SXSW.
Генеральный директор Google DeepMind Демис Хассабис предупреждает о серьёзных рисках, которые могут возникнуть, если ИИ попадёт не в те руки. Фото: Bloomberg
На прошлой неделе генеральный директор Anthropic, известной лаборатории искусственного интеллекта, выступил с мрачным предостережением относительно будущего рынка труда. Он предсказал, что ИИ может уничтожить половину всех рабочих мест, связанных с «белыми воротничками». Но больше всего его беспокоит потенциальное злоупотребление «общим искусственным интеллектом» (ОИИ) — типом ИИ, который теоретически способен достичь уровня человеческого интеллекта.
«Злоумышленник может использовать эти технологии во вредоносных целях», — сказал он. «Поэтому главный вопрос заключается в следующем… как ограничить доступ злоумышленников к этим мощным системам… но при этом позволить хорошим парням делать с их помощью множество полезных дел?»
В мае ФБР заявило, что хакеры использовали ИИ для создания поддельных голосовых сообщений государственных чиновников. В прошлогоднем отчёте, заказанном Госдепартаментом США, также было установлено, что ИИ может представлять «катастрофические» риски для национальной безопасности, сообщает CNN . ИИ также способствовал созданию фейковой порнографии.
Хассабис не первый, кто выражает подобные опасения. Хотя ИИ считается одним из крупнейших технологических достижений со времён появления интернета, он также даёт мошенникам и злоумышленникам больше инструментов, чем когда-либо прежде. Примечательно, что он стремительно растёт без особого регулирования.
Сразу после увольнения 6000 человек Microsoft продолжает увольнять сотни сотрудников. Спустя несколько недель после увольнения 6000 сотрудников Microsoft продолжает увольнять более 300 человек, при этом компания тратит миллиарды долларов на искусственный интеллект (ИИ).
Хассабис считает, что необходимо международное соглашение об основных принципах использования ИИ и о том, как гарантировать, что эта технология будет использоваться только «в надлежащих случаях».
«Очевидно, учитывая нынешнюю геополитическую ситуацию, это кажется сложным», — сказал он. «Но я надеюсь, что по мере улучшения ситуации и развития ИИ мир будет всё больше осознавать необходимость этого».
Генеральный директор DeepMind также считает, что мы движемся к будущему, в котором люди будут использовать «помощников» на основе искусственного интеллекта для выполнения задач от их имени. Google работает над достижением этой цели, интегрируя больше ИИ в свою функцию поиска и разрабатывая умные очки на базе ИИ.
«Иногда мы называем его всемогущим помощником на основе искусственного интеллекта, который будет сопровождать вас повсюду, помогать вам в повседневной жизни, выполнять простые административные задачи, но также обогатит вашу жизнь, предлагая интересные вещи — от книг и фильмов до друзей, с которыми можно встретиться», — поделился генеральный директор Google DeepMind.
Однако ИИ всё ещё подвержен ограничениям, таким как предвзятость и «галлюцинации», что создало ряд серьёзных проблем для компаний, использующих эту технологию. Например, Chicago Sun-Times и Philadelphia Inquirer опубликовали составленный ИИ список летнего чтения, в который вошли несуществующие книги.
Хассабис не верит, что ИИ сделает рабочие места устаревшими. Как и другие специалисты в области ИИ, он считает, что эта технология может создавать новые типы рабочих мест и повышать производительность. Но он также признаёт, что обществу, вероятно, придётся адаптироваться и найти способ «распределить всю дополнительную производительность, которую ИИ создаст в экономике».
Он сравнивает ИИ с развитием других технологических изменений, таких как Интернет.
«Обычно на смену некоторым сокращаемым рабочим местам появляются новые, ещё более качественные рабочие места. Посмотрим, произойдёт ли так на этот раз», — сказал он.
(По данным CNN)
Источник: https://vietnamnet.vn/ong-chu-veo-3-canh-bao-nguy-co-lon-hon-ca-viec-ai-gay-that-nghiep-hang-loat-2409366.html
Комментарий (0)