Чат-боты на основе искусственного интеллекта представляют опасность для детей, что приводит к необходимости регулирования их разработчиков

Премьер-министр Японии Фумио Кисида заявил, что предложит группе «Большой семерки» план регулирования деятельности разработчиков искусственного интеллекта (ИИ).

Цель этих правил — предотвратить распространение дезинформации путем повышения осведомленности общественности о том, как отличать изображения и информацию, созданные искусственным интеллектом, от информации, не сгенерированной алгоритмами.

Предполагается, что предлагаемые руководящие принципы будут представлены уже этой осенью на виртуальной встрече семи крупнейших экономик мира (G7).

Компания Snap Inc. обвиняется в том, что при запуске своего чат-бота с искусственным интеллектом она не провела адекватной и точной оценки рисков для конфиденциальности данных детей.

В докладе говорится, что Япония обеспокоена сложными изображениями и информацией, генерируемыми искусственным интеллектом, которые могут ввести общественность в заблуждение и угрожать экономической стабильности.

Между тем, британский орган по защите персональных данных заявил, что чат-боты с искусственным интеллектом могут представлять угрозу конфиденциальности детей, в данном случае речь идет о чат-боте «My AI», разработанном американской технологической компанией Snapchat.

Власти заявляют, что Snapchat, возможно, недооценил риски для конфиденциальности детей, связанные с запущенным в апреле прошлого года чат-ботом на основе искусственного интеллекта. Управление комиссара по информации (ICO) заявило, что если американская компания не сможет должным образом отреагировать на опасения регуляторов, они рассмотрят возможность запрета приложения на основе ИИ по всей стране.

«Первоначальные результаты расследования указывают на то, что компания Snap не провела надлежащей и точной оценки рисков для конфиденциальности детей и других пользователей перед запуском приложения с использованием искусственного интеллекта», — заявил представитель ICO.

Однако заявление регулирующего органа не означает, что Snapchat, мессенджер, широко используемый молодежью в Великобритании, нарушил законы о защите данных.

Компания Snap заявила, что изучает заявление ICO и привержена защите конфиденциальности пользователей. «Наш ИИ прошел строгую проверку на соответствие требованиям конфиденциальности и правовым нормам, прежде чем был представлен публике», — заявила американская технологическая компания. «Мы продолжим конструктивно сотрудничать с ICO для решения проблем, связанных с нашими процессами оценки рисков».

Управление по защите данных Великобритании (ICO) расследует, как компания "My AI" обрабатывала персональные данные примерно 21 миллиона пользователей Snapchat в Великобритании, включая детей в возрасте от 13 до 17 лет.

Приложение, разработанное Snapchat, работает на базе ChatGPT от OpenAI — наиболее известного примера генеративного ИИ, который политики во всем мире стремятся контролировать в условиях опасений по поводу конфиденциальности и безопасности.

В социальных сетях, включая Snapchat, пользователям должно быть не менее 13 лет, но они не всегда успешно предотвращают использование своих платформ несовершеннолетними.

Ранее, в августе 2023 года, агентство Reuters сообщило, что регулирующие органы собирают информацию, чтобы определить, эффективно ли мессенджер удаляет несовершеннолетних пользователей со своей платформы.

(По данным Bloomberg и Reuters)

Meta использует данные пользователей Facebook и Instagram для обучения своего чат-бота с искусственным интеллектом.

Компания Meta заявляет, что использует общедоступные публикации пользователей в Facebook и Instagram для обучения своего нового виртуального помощника на основе искусственного интеллекта (ИИ), но исключает контент, которым делятся только с семьей и друзьями.

Microsoft запускает виртуального чат-помощника на основе искусственного интеллекта Copilot.

Microsoft Copilot будет доступен в Windows 11, Microsoft 365, браузере Edge и поисковой системе Bing.

В чат-боте Google Bard появятся три новые функции.

Проверка точности ответов, импорт пользовательских данных между приложениями и приглашение других пользователей к общению с чат-ботами — вот некоторые из новых функций, которые появятся в Google Bard.

Источник