Google: Программное обеспечение Gemini AI используется не по назначению для создания фейкового контента террористического характера.

В заявлении, направленном австралийским властям, Google сообщила, что за последний год получила 258 жалоб со всего мира по поводу использования своего программного обеспечения искусственного интеллекта (ИИ) Gemini для создания фейкового контента, связанного с терроризмом или насильственным экстремизмом; а также 86 сообщений от пользователей, предупреждающих о неправомерном использовании Gemini для создания контента, содержащего сцены сексуального насилия над детьми.

Австралийская комиссия по электронной безопасности (ESSC) оценила отчет Google как первый в мире , предоставляющий информацию о том, как пользователи могут использовать технологии для создания вредоносного и незаконного контента.

Член Комиссии по кибербезопасности Джули Инман Грант заявила, что это подчеркивает важность того, чтобы компании, разрабатывающие продукты на основе искусственного интеллекта, создавали и тестировали эффективность мер защиты для предотвращения создания вредоносного, фейкового контента.

Google использовал функцию сопоставления — автоматизированную систему, которая сопоставляет недавно загруженные изображения с известными изображениями, — для выявления и удаления контента, связанного с детской порнографией, созданного Gemini. Однако Австралийская комиссия по электронной безопасности заявила, что Google не использовал ту же систему для удаления террористического или насильственного экстремистского контента, созданного Gemini.

Согласно действующему австралийскому законодательству, технологические компании обязаны периодически предоставлять Комиссии по электронной безопасности информацию о своих усилиях по снижению вреда, в противном случае им грозят штрафы.

Совсем недавно компании были обязаны предоставлять этой комиссии информацию за период с апреля 2023 года по февраль 2024 года. Австралийская комиссия по электронной безопасности оштрафовала Telegram и Twitter (позже переименованный в X) за недостатки в отчетности.

X уже однажды обжаловал штраф в размере 610 500 австралийских долларов (382 000 долларов США), но ожидается, что социальная сеть подаст апелляцию снова. Telegram также планирует обжаловать штраф, наложенный на канал.

После того как в конце 2022 года "сенсационный" чат-бот ChatGPT от американской компании OpenAI привлек к себе огромное внимание общественности, регулирующие органы по всему миру призвали к принятию более эффективных мер для предотвращения злоупотребления ИИ со стороны злоумышленников с целью подстрекательства к терроризму, совершения мошенничества, создания поддельного порнографического контента и участия в других противоправных действиях.

Источник: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html