Google: программное обеспечение Gemini AI использовалось для создания фейкового террористического контента

В уведомлении, направленном австралийским властям, технологическая корпорация Google заявила, что за последний год они получили 258 жалоб по всему миру на то, что программное обеспечение искусственного интеллекта (ИИ) Google Gemini используется для создания фейкового террористического или насильственного экстремистского контента; и 86 сообщений пользователей, предупреждающих о том, что Gemini используется для создания контента, содержащего сцены насилия над детьми.

Австралийская комиссия по электронной безопасности заявила, что отчет Google предоставил первую в мире информацию о том, как пользователи могут использовать технологии для создания вредоносного и незаконного контента.

Комиссар по электронной безопасности Джули Инман Грант заявила, что это подчеркивает важность создания и тестирования компаниями, разрабатывающими продукты на основе искусственного интеллекта, эффективных мер защиты для предотвращения создания подобного вредоносного поддельного контента.

Google использовала matchmaking — автоматизированную систему, которая сопоставляет недавно загруженные изображения с известными изображениями — для выявления и удаления контента о насилии над детьми, созданного Gemini. Однако Австралийская комиссия по электронной безопасности заявила, что Google не использовала ту же систему для удаления террористического или насильственного экстремистского контента, созданного Gemini.

Согласно действующему австралийскому законодательству, технологические компании обязаны периодически предоставлять Комиссии по электронной безопасности информацию о своих усилиях по снижению вреда, в противном случае им грозят штрафные санкции.

Совсем недавно компании должны были предоставлять информацию комиссии в период с апреля 2023 года по февраль 2024 года. Австралийская комиссия по электронной безопасности оштрафовала Telegram и Twitter (позже переименованный в X) за недостатки в отчетности.

X уже проиграл апелляцию на штраф в размере 610 500 австралийских долларов (382 000 долларов США), но социальная сеть планирует подать апелляцию снова. Telegram также планирует обжаловать штраф против канала.

С тех пор как в конце 2022 года популярный чат-бот ChatGPT от OpenAI (США) стал широко известен общественности, регулирующие органы по всему миру призвали к принятию более эффективных мер, гарантирующих, что злоумышленники не будут использовать ИИ для подстрекательства к терроризму, совершения мошенничества, создания поддельной порнографии и других видов оскорбительного поведения.

Источник: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html