Чат-боты на основе искусственного интеллекта представляют опасность для детей, что требует регулирования их разработчиков

Премьер-министр Японии Фумио Кисида заявил, что предложит группе G7 план регулирования разработчиков искусственного интеллекта (ИИ).

Целью правил является предотвращение распространения дезинформации путем повышения осведомленности общественности о необходимости различать изображения и информацию, созданные искусственным интеллектом, и те, которые не генерируются алгоритмами.

Ожидается, что руководящие принципы будут предложены уже этой осенью на виртуальной встрече семи крупнейших экономик мира (G7).

Компанию Snap Inc. обвинили в неспособности адекватно и точно оценить риски, связанные с конфиденциальностью данных детей, при запуске чат-бота на основе искусственного интеллекта.

В докладе говорится, что Япония обеспокоена сложными изображениями и информацией, генерируемыми ИИ, которые могут запутать общественность и поставить под угрозу экономическую стабильность.

Тем временем британский орган по надзору за данными заявил, что чат-боты на основе искусственного интеллекта могут представлять угрозу конфиденциальности детей. В данном случае речь идет о чат-боте «My AI», разработанном американской технологической компанией Snapchat.

Власти утверждают, что Snapchat, возможно, не смог должным образом оценить риски для конфиденциальности детей, связанные с запущенным в апреле чат-ботом на основе искусственного интеллекта. Управление комиссара по информации (ICO) заявило, что если американская компания не сможет должным образом отреагировать на опасения регулятора, она рассмотрит вопрос о запрете приложения на основе искусственного интеллекта по всей стране.

«Первоначальные результаты расследования свидетельствуют о том, что Snap не смогла адекватно и точно оценить риски для конфиденциальности детей и других пользователей перед запуском приложения ИИ», — заявили в ICO.

Однако заявление регулятора не означает, что Snapchat, приложение для обмена сообщениями, широко используемое молодежью в Великобритании, нарушило законы о защите данных.

Компания Snap заявила, что изучает уведомление ICO и обязуется защищать конфиденциальность пользователей. «Наш ИИ прошёл тщательную проверку на конфиденциальность и юридическую чистоту, прежде чем был опубликован», — заявила американская технологическая компания. «Мы продолжим конструктивно работать с ICO, чтобы решить проблемы, связанные с нашими процессами оценки рисков».

ICO расследует, как «My AI» обрабатывал персональные данные около 21 миллиона пользователей Snapchat в Великобритании, включая детей в возрасте 13–17 лет.

Приложение, разработанное Snapchat, работает на базе ChatGPT от OpenAI — самого известного примера генеративного ИИ, который политики по всему миру стремятся регулировать из соображений конфиденциальности и безопасности.

Социальные сети, включая Snapchat, требуют, чтобы пользователи были старше 13 лет, но им не всегда удавалось удержать несовершеннолетних от использования своих платформ.

Ранее, в августе 2023 года, агентство Reuters сообщало, что регулирующие органы собирают информацию, чтобы определить, эффективно ли приложение для обмена сообщениями удаляет несовершеннолетних пользователей со своей платформы.

(По данным Bloomberg, Reuters)

Meta использует данные пользователей Facebook и Instagram для обучения чат-ботов на базе искусственного интеллекта

Компания Meta заявила, что использует публичные публикации пользователей в Facebook и Instagram для обучения своего нового виртуального помощника на базе искусственного интеллекта (ИИ), но исключает контент, которым делятся только с семьей и друзьями.

Microsoft запускает виртуального помощника Copilot на основе искусственного интеллекта

Виртуальный помощник Microsoft Copilot будет доступен в Windows 11, Microsoft 365, браузере Edge и поисковой системе Bing.

Три новые функции появятся в чат-боте Bard от Google

Проверка точности ответов, импорт пользовательских данных из разных приложений и приглашение других пользователей к общению с чат-ботами — новые функции, которые появятся в Google Bard.

Источник