На самом деле, это не первый случай, когда ученые предупреждают о потенциальной опасности искусственного интеллекта для человечества. В 2014 году известный британский физик-теоретик Стивен Хокинг заявил: «Полное развитие искусственного интеллекта может уничтожить человечество». Он также предсказал, что человечество будет полностью заменено искусственным интеллектом в течение 500 лет, если не будет проявлена осторожность в исследованиях и разработках этой опасной технологии. Восемь лет назад, в июле 2015 года, более 1000 экспертов в области технологий искусственного интеллекта, включая Стивена Хокинга, Илона Маска, Ноама Хомского и других, подписали петицию, предупреждающую о риске гонки вооружений в области военного ИИ и призывающую к полному запрету автономного оружия (сочетающего ИИ и летальное оружие). Запуск приложения Chat GPT компанией OpenAI в ноябре 2022 года добавил еще один тревожный сигнал относительно присущих искусственному интеллекту опасностей. Фактически, то, что делает Chat GPT, показывает, что ИИ в некоторой степени стал гораздо опаснее, чем люди когда-то думали.
Потенциальные риски искусственного интеллекта зависят от того, как он используется. Изначально ИИ разрабатывался для помощи людям в их работе, особенно в выполнении рутинных, повторяющихся задач, таких как классификация изображений и анализ информации. Однако в связи с быстрым развитием ИИ в последнее время ученые и эксперты в области технологий обеспокоены тем, что при бесконтрольном развитии или программировании в неправильных целях искусственный интеллект может иметь серьезные последствия для человечества и общества.
Риск незащищенности
Искусственный интеллект может стать угрозой национальной безопасности и личной безопасности. Илон Маск предупредил, что ИИ может стать ужасающим инструментом в войне. Если страна сможет разработать превосходную систему искусственного интеллекта, она сможет использовать её для нападения на другие страны. Профессор Стюарт Рассел, профессор компьютерных наук Калифорнийского университета, десятилетиями изучающий искусственный интеллект, предупреждает об угрозе безопасности, исходящей от ИИ, заявляя, что мы уже можем производить автономное оружие путем интеграции и миниатюризации существующих технологий.
В эксперименте, проведенном профессором Стюартом Расселом и Институтом исследований будущей жизни (FLI), использовался робот-убийца — микроскопическое летающее устройство, оснащенное камерами, датчиками, программным обеспечением для обработки изображений, системой распознавания лиц, 3-граммовым зарядом взрывчатки и высокоскоростным микропроцессором, позволяющим анализировать данные и реагировать в 100 раз быстрее, чем человеческий мозг. В соответствии со своими запрограммированными параметрами, робот-убийца постоянно обращается к облачным данным для поиска информации о своей цели и нахождения пути к ней. Обнаружив цель, он с высокой скоростью устремится к ней, взорвет 3-граммовый заряд взрывчатки и проникнет глубоко в череп, мгновенно убив жертву.
Это был всего лишь эксперимент с ИИ на самом простом уровне. Если ИИ будет использоваться для разработки новых, более сложных методов атак, это также может расширить возможности злоумышленников и привести к более серьезным последствиям, чем при использовании традиционных методов. Когда ИИ разовьется до такой степени, что сможет самостоятельно принимать решения, чтобы адаптироваться к меняющейся среде, или независимо искать альтернативные цели, или расширять свой целевой диапазон, тогда, возможно, человечество перестанет быть в безопасности. Многие коллеги в этой области согласны с профессором Стюартом Расселом и считают, что еще есть шанс предотвратить такое мрачное будущее, но у нас осталось не так много времени.
Риск заключается в том, что ИИ станет организованным, автономным и будет контролировать систему.
Искусственный интеллект может быть неправильно спроектирован или некорректно «обучен» с помощью машинного обучения, что потенциально может привести к непреднамеренным действиям, наносящим вред людям и окружающей среде. Например, благодаря машинному обучению ИИ становится все более интеллектуальным. Когда искусственный интеллект достигает уровня, позволяющего поддерживать критически важные системы, такие как энергетика, транспорт, здравоохранение и финансы, он может овладеть и контролировать все эти системы, принимая собственные решения и выполняя их в чрезвычайных ситуациях. Однако, когда ИИ «наделен» злонамеренными намерениями (неправильно спроектирован), это может привести к серьезным последствиям, таким как нарушение работы транспортных систем путем отключения светофоров или отключения электроэнергии в городских железнодорожных системах, что может вызвать цепные аварии и масштабные отключения электроэнергии.
Многие голливудские и зарубежные фильмы основаны на этом сценарии. Однако с развитием современных технологий искусственного интеллекта это уже не отдаленная перспектива, а вполне осуществимая цель. Илон Маск считает, что если ИИ будет развиваться бесконтрольно, до такой степени, что сможет автоматизировать решения без вмешательства человека, это может представлять угрозу для выживания человечества. Именно поэтому он, вместе с тысячами экспертов в области технологий, подписал письмо с требованием остановить и обеспечить строгий контроль над развитием ИИ прозрачным образом. По словам Илона Маска, системы искусственного интеллекта сложны, их трудно понять, и управлять ими очень сложно. Без прозрачности использование искусственного интеллекта в неэтичных целях, причиняющее вред человечеству, неизбежно.
Риск потери работы, нарушение права на неприкосновенность частной жизни.
При использовании для сбора личной информации технология искусственного интеллекта может быть использована для нарушения конфиденциальности, проведения дезинформационных кампаний и распространения ложной информации, которая подрывает общественный порядок и политическую стабильность. Взлом сети Управления кадров США (OPM) представляет собой серьезную проблему для любой страны или организации, поскольку он скомпрометировал подробные и крайне конфиденциальные личные данные 21,5 миллиона действующих и вышедших на пенсию должностных лиц США, включая информацию об их супругах, а также данные из заявлений на государственные должности, такие как состояние здоровья, место жительства, профессия, отпечатки пальцев и финансовая информация. Однако еще более тревожный факт всплыл, когда ЦРУ обнаружило, что злоумышленники, укравшие данные OPM, использовали искусственный интеллект для фальсификации личной информации и создания виртуальных агентов для кражи данных. После кражи информация анализируется, классифицируется и используется в конкретных целях с помощью технологии больших данных. Искусственный интеллект помогает похитителям информации сократить время, необходимое для использования данных, поскольку люди не способны обрабатывать такой огромный объем информации за столь короткое время.
Помимо упомянутых выше неотъемлемых опасностей, технология ИИ также создает другие риски, такие как: чрезмерная зависимость от нее, ведущая к потере контроля над ситуациями и снижению способности принимать решения. Искусственный интеллект также приведет к потере работы миллионами, даже сотнями миллионов людей, особенно в сфере чисто физического труда с низким уровнем знаний. Следствием этого станет еще более острое усугубление серьезных социальных проблем, таких как безработица, преступность и разрыв между богатыми и бедными. Кроме того, надежность также является важнейшим вопросом. Надежность решений в узкоспециализированных областях, таких как здравоохранение и уголовное правосудие, чрезвычайно важна. При использовании ИИ для помощи в принятии решений в этих областях, если технология недостаточно надежна, работает на основе данных, которые склонны отдавать предпочтение одному или группе людей, или намеренно искажается, эти решения могут привести к серьезным последствиям.
Как мы можем это предотвратить?
Указанные риски являются причиной обеспокоенности Илона Маска и экспертов в области технологий по поводу неконтролируемого развития ИИ. Они направили письма Организации Объединенных Наций и международным организациям, призывая их к строгому контролю, обеспечению безопасности и этичности в разработке ИИ, а также к укреплению международного сотрудничества для обеспечения того, чтобы технологии ИИ приносили пользу человечеству и обществу. В качестве конкретных мер можно привести следующие:
- Контроль надежности системы: при проектировании и разработке ИИ необходимо обеспечивать безопасность и надежность посредством строгих, частых и непрерывных методов контроля качества, мониторинга и надзора, чтобы гарантировать, что система ИИ работает так, как задумано людьми, и избежать нежелательных последствий, связанных с ее ненадежностью.
Технологии искусственного интеллекта (ИИ) должны быть запрограммированы таким образом, чтобы функционировать в соответствии с этическими ценностями и социальными нормами. Эти правила и стандарты должны быть четко установлены и контролироваться, чтобы гарантировать, что они не причинят вреда людям или организациям. Процесс анализа, оценки воздействия и мониторинга производительности системы ИИ также должен проводиться регулярно, чтобы гарантировать ее этичную работу, отсутствие нарушений или подрыва общепринятых ценностей общества, отсутствие негативных последствий и обеспечение точной передачи знаний и ценностей.
    |
| Журналистика — одна из отраслей, наиболее затронутых искусственным интеллектом. В будущем отпадет необходимость в закадровых ведущих для радиопрограмм, а виртуальные ведущие для телешоу станут даже доминирующими. |
— Временно приостановить «обучение» систем искусственного интеллекта как минимум на шесть месяцев, чтобы пересмотреть весь вопрос. Эта пауза должна быть публичной, контролируемой, и все ключевые заинтересованные стороны, участвующие в обучении, должны ее соблюдать. При необходимости правительства должны вводить временные запреты. Это не означает полной остановки разработки ИИ, а лишь временную паузу в опасной гонке за переходом к другим моделям разработки, которые сделают системы ИИ более точными, безопасными, понятными, прозрачными, актуальными, надежными и лояльными. Это комплексное решение, которое Илон Маск и его коллеги предлагали в своем открытом письме, но его осуществимость низка. Независимым лабораториям будет очень сложно выполнить такое необязательный и транснациональный призыв.
— Укрепление сотрудничества и обмена информацией между странами и независимыми исследовательскими организациями в области ИИ имеет решающее значение для обеспечения безопасного развития и использования ИИ в будущем. Сотрудничество и обмен информацией также позволяют своевременно предупреждать и предотвращать любые возникающие риски.
В целом, искусственный интеллект уже присутствует повсюду вокруг нас, и истории о том, как искусственный интеллект пишет стихи, музыку и статьи, стали реальностью, а не научной фантастикой. Автор этой статьи использовал технологию ИИ на компьютерах и телефонах для помощи в написании текста, сделав этот процесс более плавным и быстрым. В частности, вступительный абзац (глава) и некоторые идеи были предложены ИИ, и что еще более примечательно, все изображения, использованные в этой статье, были созданы ИИ. Технология искусственного интеллекта очень полезна для улучшения качества работы и жизни людей, но ее необходимо строго контролировать, чтобы предотвратить выход из-под контроля и превращение в потенциальную замену человеку в будущем, как предсказывал физик-теоретик Стивен Хокинг.
Текст и фотографии: Хуу ДуонгИсточник
Комментарий (0)