Китай предупреждает о рисках, связанных с ИИ, и призывает к укреплению национальной безопасности

В заявлении, опубликованном после встречи во вторник, подчеркивалась решимость Китая занять лидирующие позиции в мире в области передовых технологий, а также обеспокоенность по поводу потенциального политического и социального вреда, который могут нанести эти технологии.

Китай предупреждает о рисках; некоторые призывают к усилению национальной безопасности (Рисунок 1). — Председатель КНР Си Цзиньпин. Фото: NBC

Ранее ученые и технологические лидеры в США, включая руководителей высшего звена в Microsoft и Google, также предупреждали об опасностях, которые искусственный интеллект представляет для человечества.

Агентство Синьхуа сообщило, что на встрече в Пекине обсуждалась необходимость «приложить особые усилия для обеспечения политической безопасности и улучшения управления безопасностью интернет-данных и искусственным интеллектом».

Председатель Си Цзиньпин призвал «всегда помнить о сложных и непростых ситуациях, стоящих перед национальной безопасностью... Китаю необходима новая модель развития с новой структурой безопасности».

«На последнем заседании партии была подчеркнута необходимость оценки потенциальных рисков, принятия превентивных мер, защиты интересов народа и национальной безопасности, а также обеспечения безопасности, надежности и управляемости ИИ», — сообщила во вторник газета «Пекинская молодежная газета».

Растут опасения по поводу того, что системы искусственного интеллекта могут стать умнее людей и выйти из-под контроля, особенно в случае крупномасштабных языковых моделей, таких как ChatGPT.

Сэм Альтман, генеральный директор OpenAI, разработчика ChatGPT, и Джеффри Хинтон, учёный-компьютерщик, которого называют отцом искусственного интеллекта, входят в число сотен ведущих деятелей, подписавших во вторник заявление, опубликованное на сайте Центра безопасности ИИ.

«Снижение риска вымирания видов из-за искусственного интеллекта должно стать глобальным приоритетом наряду с другими социальными рисками, такими как пандемии и ядерная война», — говорится в заявлении.

В начале этого года более 1000 исследователей и ученых, включая Илона Маска, подписали письмо с призывом приостановить разработку искусственного интеллекта на шесть месяцев.

В письме указывалось, что искусственный интеллект представляет «серьезную опасность для общества и человечества» и что некоторые заинтересованные стороны предложили заключить договор под эгидой ООН для регулирования этой технологии.

Еще в 2018 году Китай предупреждал о необходимости регулирования ИИ, но при этом финансировал масштабное развитие этой области в рамках глобальных новаторских усилий.

Риски, связанные с искусственным интеллектом, в первую очередь заключаются в его потенциальной способности управлять роботами, автономным оружием, финансовыми инструментами и компьютерами, управляющими электросетями, медицинскими центрами, транспортными сетями и другой критически важной инфраструктурой.

Хоанг Тон (по сообщению AP)

Источник