Чат-боты на основе искусственного интеллекта представляют опасность для детей, призывают к регулированию разработчиков

Премьер-министр Японии Фумио Кисида заявил, что предложит группе G7 план регулирования разработчиков искусственного интеллекта (ИИ).

Целью правил является предотвращение распространения дезинформации путем повышения осведомленности общественности о необходимости различать изображения и информацию, созданные ИИ, и те, которые не генерируются алгоритмами.

Ожидается, что руководящие принципы будут предложены уже этой осенью на виртуальной встрече семи крупнейших экономик мира (G7).

Компанию Snap Inc. обвинили в неспособности адекватно и точно оценить риски, связанные с конфиденциальностью данных детей, при запуске чат-бота на основе искусственного интеллекта.

В отчете говорится, что Япония обеспокоена сложными изображениями и информацией, генерируемыми ИИ, которые могут запутать общественность и поставить под угрозу экономическую стабильность.

Между тем, британский орган по надзору за данными заявил, что чат-боты на основе искусственного интеллекта могут представлять угрозу конфиденциальности детей. В данном случае речь идет о чат-боте «My AI», разработанном американской технологической компанией Snapchat.

Власти утверждают, что Snapchat, возможно, не смог должным образом оценить риски для конфиденциальности детей, связанные с чат-ботом на основе искусственного интеллекта, который компания запустила в апреле. Управление комиссара по информации (ICO) заявило, что если американская компания не сможет адекватно отреагировать на опасения регулирующих органов, она рассмотрит вопрос о запрете приложения ИИ по всей стране.

«Первоначальные результаты расследования свидетельствуют о том, что Snap не смогла адекватно и точно оценить риски для конфиденциальности детей и других пользователей перед запуском приложения на основе ИИ», — заявили в ICO.

Однако заявление регулятора не означает, что Snapchat, приложение для обмена сообщениями, широко используемое молодежью в Великобритании, нарушило законы о защите данных.

Компания Snap заявила, что рассматривает объявление о проведении ICO и обязуется защищать конфиденциальность пользователей. «Наш ИИ проходит тщательную проверку на конфиденциальность и юридическую чистоту, прежде чем станет общедоступным», — заявила американская технологическая компания. «Мы продолжим конструктивное сотрудничество с ICO для решения проблем, связанных с нашими процессами оценки рисков».

ICO расследует, как «My AI» обрабатывал персональные данные около 21 миллиона пользователей Snapchat в Великобритании, включая детей в возрасте 13–17 лет.

Приложение, разработанное Snapchat, работает на базе ChatGPT от OpenAI — самого известного примера генеративного ИИ, который политики по всему миру стремятся регулировать из соображений конфиденциальности и безопасности.

Социальные сети, включая Snapchat, требуют, чтобы пользователи были старше 13 лет, но им не всегда удавалось предотвратить использование своих платформ несовершеннолетними.

Ранее, в августе 2023 года, агентство Reuters сообщало, что регулирующие органы собирают информацию, чтобы определить, эффективно ли приложение для обмена сообщениями удаляет несовершеннолетних пользователей со своей платформы.

(По данным Bloomberg, Reuters)

Meta использует данные пользователей Facebook и Instagram для обучения чат-ботов на основе искусственного интеллекта

Компания Meta заявила, что использует общедоступные публикации пользователей в Facebook и Instagram для обучения своего нового виртуального помощника на базе искусственного интеллекта (ИИ), но исключает контент, которым делятся только с семьей и друзьями.

Microsoft запускает виртуального помощника-чатбота на основе искусственного интеллекта Copilot

Виртуальный помощник Microsoft Copilot будет доступен в Windows 11, Microsoft 365, браузере Edge и поисковой системе Bing.

Три новые функции появятся в чат-боте Bard от Google на основе искусственного интеллекта

Проверка точности ответов, импорт данных пользователей из приложений в приложения и приглашение других пользователей к общению с чат-ботами — это новые функции, которые появятся в Google Bard.

Источник