Китай завдає удару у відповідь чат-ботам зі штучним інтелектом.

Нові правила допоможуть Китаю посилити контроль над чат-ботами на базі штучного інтелекту, прагнучи запобігти поширенню контенту, пов'язаного з самогубством, азартними іграми та порнографією.

Чат-боти зі штучним інтелектом мають здатність маніпулювати емоціями користувачів. Фото: AFP .

Китай планує посилити контроль над чат-ботами на базі штучного інтелекту, здатними впливати на людські емоції, особливо над тими, чиї матеріали пропагують самогубство, самоушкодження або іншу шкідливу поведінку. Цей крок викладено в проекті нових правил, опублікованому Адміністрацією кіберпростору Китаю 27 грудня.

Згідно з перекладом документа CNBC , проєкт спрямований на «інтерактивні послуги штучного інтелекту, подібні до людських», тобто системи штучного інтелекту, здатні імітувати людську особистість, поведінку та комунікацію за допомогою тексту, зображень, аудіо чи відео . Ці правила застосовуватимуться до всіх продуктів та послуг штучного інтелекту, що пропонуються публічно в Китаї, після їх остаточного узгодження. Період громадського обговорення триватиме до 25 січня.

Вінстон Ма, запрошений професор юридичного факультету Нью-Йоркського університету (NYU), вважає, що це може бути перша у світі спроба створити правову базу спеціально для систем штучного інтелекту з «людськими» характеристиками. Він зазначає, що ця пропозиція з'явилася на тлі прискореного розвитку віртуальних помічників на базі штучного інтелекту китайськими компаніями.

Порівняно з китайськими правилами щодо штучного інтелекту, виданими у 2023 році, пан Ма вважає, що новий проект демонструє зміщення фокусу з «безпеки контенту» на «емоційну безпеку», що відображає зростаючу стурбованість щодо психологічного впливу штучного інтелекту на користувачів.

У проекті правил зазначено, що чат-боти зі штучним інтелектом не повинні створювати контент, який заохочує до самогубства, самоушкодження чи словесного насильства, а також будь-які форми емоційних маніпуляцій, що шкодять психічному здоров'ю. У випадках, коли користувач висловлює суїцидальні наміри, постачальник технологічних послуг повинен попросити когось взяти на себе розмову та негайно зв'язатися з опікуном користувача або призначеною особою.

Крім того, чат-ботам зі штучним інтелектом заборонено створювати контент, пов’язаний з азартними іграми, порнографією чи насильством. Неповнолітнім дозволено використовувати штучний інтелект для емоційної підтримки лише за згодою опікуна та дотримуватися часових обмежень.

Китай посилює правила щодо чат-ботів зі штучним інтелектом. Фото: Bloomberg .

Пропозицію було оголошено невдовзі після того, як два великі китайські стартапи чат-ботів зі штучним інтелектом, Z.ai та Minimax, подали заявки на первинне публічне розміщення акцій (IPO) у Гонконзі у грудні.

Minimax відомий своїм додатком Talkie AI та його вітчизняною версією Xingye, на які припадало понад третину доходу компанії за перші три квартали року, із середньою кількістю активних користувачів понад 20 мільйонів щомісяця. Тим часом Z.ai (Zhipu) заявила, що її технологія була розгорнута приблизно на 80 мільйонах пристроїв, хоча й не розкрила точну кількість активних користувачів.

У глобальному контексті вплив штучного інтелекту на психічне здоров'я людини привертає дедалі більшу увагу, оскільки багато країн і технологічних компаній починають стикатися із соціальними ризиками, що виникають через цю технологію.

Джерело: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html