Безопасность в эпоху высоких технологий

Штаб-квартира Европейского полицейского агентства (Европол) в Гааге, Нидерланды.

По данным Европола, ИИ «непреднамеренно» помог преступникам повысить эффективность своей деятельности во многих областях, таких как незаконный оборот наркотиков, торговля людьми, киберпреступность и кража личных данных. Эксперт по технологиям Брюс Шнайер, советник Европола, признал: «ИИ делает преступников опаснее, чем когда-либо. Традиционные методы проверки личности уже недостаточно эффективны для борьбы с дипфейками».

«Организованная преступность становится всё более изощрённой и подпитывается интернетом, ускоряясь благодаря искусственному интеллекту и новым технологиям. Это гонка между теми, кто использует технологии для совершения преступлений, и теми, кто использует технологии для борьбы с преступностью. Мы должны обеспечить опережение правоохранительных органов», — предупредила Катрин Де Болле, исполнительный директор Европола.

В середине февраля этого года в Париже (Франция) прошёл саммит AI Action Summit. Мероприятие проходило на фоне нестабильной ситуации в сфере ИИ, в частности, появления новых моделей ИИ, которые, как утверждается, оказывают значительное влияние на мировой рынок. Выступая на конференции, президент Франции Эммануэль Макрон выразил надежду на сотрудничество в целях продвижения моделей ИИ с открытым исходным кодом, создания условий для развития бизнеса в этой сфере, а также эффективного предотвращения технологических преступлений.

В конференции приняли участие многие высокопоставленные руководители и бизнесмены технологической отрасли, в том числе президент Франции Эммануэль Макрон, премьер-министр Индии Нарендра Моди, вице-президент США Джей Ди Вэнс... а также лидеры из Кремниевой долины, такие как генеральный директор OpenAI, президент Microsoft и генеральный директор Google.

Эксперт в области геотехнологий Ник Райнерс отметил, что конференция может стать возможностью увидеть перестройку глобальной конкуренции в этой области, а также координацию действий в борьбе с высокотехнологичной преступностью с использованием возможностей искусственного интеллекта.

Искусственный интеллект стал трендом развития, нравится нам это или нет, но пока ни одна страна не осталась в стороне. Хотя опасения всё ещё существуют. На ежегодном Всемирном экономическом форуме 2025, прошедшем в Давосе (Швейцария) в конце января 2025 года, он также привлек внимание дискуссиями, посвящёнными развитию искусственного интеллекта.

В частности, Генеральный секретарь ООН Антониу Гутерриш выступил с серьёзным предупреждением о двух серьёзных угрозах человечеству: климатическом кризисе и неконтролируемом развитии искусственного интеллекта. Он призвал страны принять срочные меры по ограничению изменения климата и предотвращению наихудших последствий. Говоря об искусственном интеллекте, он подчеркнул, что ИИ приносит много пользы, но также создаёт серьёзные риски, если им не управлять должным образом. Предупреждение звучало так: ИИ, если его не контролировать, может быть использован как инструмент обмана, разрушая экономику и подрывая доверие к институтам. Он также может усугубить неравенство, поскольку многие люди не получают выгод от этой технологии.

С тех пор Генеральный секретарь ООН призвал к глобальному сотрудничеству для решения различных проблем — от климатического кризиса до управления развитием искусственного интеллекта.

Между тем, эксперты предсказывают, что с появлением ИИ человечество может столкнуться с изменениями, которые будут масштабнее любых других технологий в истории. Доктор Сики Чен, генеральный директор стартапа Runway из Сан-Франциско, заявил, что предыдущие технологические достижения, от электричества до интернета, уже привели к радикальным изменениям в обществе. Однако с появлением ИИ эти изменения будут ещё более радикальными. «С появлением ИИ человеческое общество столкнётся с изменениями, масштаб которых превосходит любые другие технологические изменения в истории», — сказал доктор Чен, но также предупредил, что «это захватывающее, но в то же время пугающее изменение, как палка о двух концах».

По словам доктора Джареда Спатаро, одного из ключевых руководителей корпорации Microsoft, ИИ можно считать «душой труда», если он способен развивать положительные аспекты и ограничивать отрицательные. В частности, это позволяет не допустить злоумышленников, работающих в сфере высоких технологий, воспользоваться им и доминировать.

По мнению Шарон Чжоу, соучредителя компании, занимающейся разработкой искусственного интеллекта, технологии «могут наступать на нас быстрее, чем мы можем с ними справиться». Поэтому опередить их — естественная стратегия, если мы не хотим подвергать себя опасности. Чжоу отметила, что эти технологии поднимают вопрос о будущем человечества. «Если что-то окажется сильнее и умнее нас, что это будет значить для нас? И будем ли мы это использовать? Или оно будет использовать нас?»

Именно поэтому безопасность является «обязательным процессом», заявил в интервью MIT Technology Review главный научный сотрудник OpenAI Илья Суцкевер, предположив, что сам международный порядок может оказаться под угрозой, если ИИ будет использоваться злоумышленниками.

Генеральный секретарь ООН Антониу Гутерриш однажды сказал: «Никто не в безопасности, пока все не в безопасности». В нынешнюю эпоху бурного развития искусственного интеллекта это высказывание ещё более актуально, поскольку борьба с высокотехнологичной преступностью — не частное дело.

«

В цифровую эпоху, с бурным развитием искусственного интеллекта, преступный мир также стремительно меняется с развитием технологий, создавая беспрецедентные проблемы для глобальной безопасности. Согласно отчету компании Palo Alto Networks, занимающейся кибербезопасностью, число атак с использованием программ-вымогателей в мире в 2024 году выросло на 47% по сравнению с 2023 годом, нанеся ущерб более чем в 30 миллиардов долларов США. Злоумышленники теперь не только крадут данные, но и контролируют важные системы для вымогательства. Это уже не просто финансовая проблема, а угроза национальной безопасности. Кроме того, для поддельных звонков используются самые передовые достижения искусственного интеллекта, которые подделывают голос или изображение жертв, нанося огромный ущерб. Отчет Европола показывает, что количество мошенничеств с использованием deepfake выросло на 300% за последние 2 года.

Источник: https://daidoanket.vn/an-toan-trong-thoi-dai-cong-nghe-cao-10302564.html