Китай наносит ответный удар по чат-ботам с искусственным интеллектом.

Новые правила помогут Китаю усилить контроль над чат-ботами на основе искусственного интеллекта, стремясь предотвратить распространение контента, связанного с самоубийством, азартными играми и порнографией.

Чат-боты с искусственным интеллектом способны манипулировать эмоциями пользователей. Фото: AFP .

Китай планирует ужесточить контроль над чат-ботами с искусственным интеллектом, способными влиять на эмоции людей, особенно над теми, контент которых пропагандирует самоубийство, членовредительство или другие опасные действия. Эта мера изложена в проекте новых правил, опубликованном Управлением по киберпространству Китая 27 декабря.

Согласно переводу документа, сделанному CNBC , проект направлен на «интерактивные сервисы искусственного интеллекта, имитирующие человеческую личность», то есть системы ИИ, способные имитировать человеческую личность, поведение и общение посредством текста, изображений, аудио или видео . После завершения разработки эти правила будут применяться ко всем продуктам и услугам ИИ, публично предлагаемым в Китае. Период общественного обсуждения продлится до 25 января.

Уинстон Ма, приглашенный профессор юридической школы Нью-Йоркского университета (NYU), считает, что это может быть первая в мире попытка создать правовую основу специально для систем искусственного интеллекта с «человекоподобными» характеристиками. Он отмечает, что это предложение появилось на фоне ускорения разработки китайскими компаниями виртуальных помощников на основе ИИ.

По сравнению с китайскими правилами регулирования ИИ, принятыми в 2023 году, г-н Ма считает, что новый проект демонстрирует смещение акцента с «безопасности контента» на «эмоциональную безопасность», отражая растущую обеспокоенность по поводу психологического воздействия ИИ на пользователей.

В проекте правил указано, что чат-боты с искусственным интеллектом не должны создавать контент, поощряющий самоубийство, членовредительство или вербальное насилие, а также любые формы эмоционального манипулирования, наносящие вред психическому здоровью. В случаях, когда пользователь выражает суицидальные намерения, поставщик технологических услуг должен поручить кому-либо продолжить разговор и немедленно связаться с опекуном пользователя или назначенным лицом.

Кроме того, чат-ботам с искусственным интеллектом запрещено создавать контент, связанный с азартными играми, порнографией или насилием. Несовершеннолетним разрешается использовать ИИ для эмоциональной поддержки только с согласия опекуна и с соблюдением временных ограничений.

Китай ужесточает регулирование чат-ботов на основе искусственного интеллекта. Фото: Bloomberg .

Предложение было объявлено вскоре после того, как в декабре два крупных китайских стартапа по разработке чат-ботов на основе искусственного интеллекта, Z.ai и Minimax, подали заявки на первичное публичное размещение акций (IPO) в Гонконге.

Компания Minimax известна своим приложением Talkie AI и его отечественной версией Xingye, на долю которых в первые три квартала года пришлось более трети выручки компании, при этом среднее число ежемесячно активных пользователей превышает 20 миллионов. Между тем, компания Z.ai (Zhipu) заявила, что её технология развернута примерно на 80 миллионах устройств, хотя конкретные цифры активных пользователей не были раскрыты.

В глобальном контексте влияние ИИ на психическое здоровье человека привлекает все больше внимания, поскольку многие страны и технологические компании начинают сталкиваться с социальными рисками, которые представляет эта технология.

Источник: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html