Китай предупреждает о рисках, связанных с ИИ, и призывает к укреплению национальной безопасности

В заявлении, опубликованном по итогам встречи во вторник, подчеркивается решимость Китая добиться мирового лидерства в области передовых технологий и обеспокоенность возможным политическим и социальным вредом этих технологий.

Председатель КНР Си Цзиньпин. Фото: NBC

Ранее ученые и лидеры технологий в США, включая старших руководителей Microsoft и Google, также выступили с предупреждениями о рисках, которые искусственный интеллект представляет для человечества.

По данным агентства «Синьхуа», на встрече в Пекине обсуждалась необходимость «целеустремленных усилий по защите политической безопасности и совершенствованию управления безопасностью интернет-данных и искусственным интеллектом».

Председатель Си Цзиньпин призвал «всегда остро осознавать сложные и ответственные ситуации, с которыми сталкивается национальная безопасность... Китаю нужна новая модель развития с новой структурой безопасности».

«На последнем партийном съезде была подчеркнута необходимость оценки потенциальных рисков, принятия превентивных мер, защиты интересов народа и национальной безопасности, а также обеспечения безопасности, надежности и контроля над ИИ», — сообщила во вторник газета Beijing Youth Daily.

Растут опасения по поводу того, что системы искусственного интеллекта становятся умнее людей и выходят из-под контроля, особенно в случае с такими крупными языковыми моделями, как ChatGPT.

Сэм Альтман, генеральный директор OpenAI, создателя ChatGPT, и Джеффри Хинтон, ученый-компьютерщик, известный как отец искусственного интеллекта, входят в число сотен ведущих деятелей, подписавших во вторник заявление, опубликованное на веб-сайте Центра безопасности ИИ.

«Снижение риска вымирания из-за ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война», — говорится в заявлении.

Ранее в этом году более 1000 исследователей и ученых, включая Илона Маска, подписали письмо с призывом к шестимесячной паузе в разработке ИИ.

В письме говорится, что ИИ представляет «серьезную угрозу обществу и человечеству», и некоторые заинтересованные стороны предложили принять под эгидой ООН всеобъемлющий договор для регулирования этой технологии.

Китай предупреждает о необходимости регулирования ИИ с 2018 года, но по-прежнему финансирует масштабное расширение этой области в рамках глобальных новаторских усилий.

Риски ИИ связаны прежде всего с его способностью управлять роботами, автономным оружием, финансовыми инструментами и компьютерами, управляющими электросетями, медицинскими центрами, транспортными сетями и другими критически важными объектами инфраструктуры.

Хоанг Тон (по данным AP)

Источник: https://www.congluan.vn/trung-quoc-canh-bao-rui-ro-ai-keu-goi-tang-cuong-an-ninh-quoc-gia-post249937.html