Google: Програмне забезпечення Gemini AI використовується для створення фальшивого терористичного контенту.

У заяві, надісланій австралійській владі, Google повідомив, що за останній рік отримав 258 скарг у всьому світі щодо використання свого програмного забезпечення зі штучним інтелектом (ШІ) Gemini для створення фальшивого терористичного або насильницького екстремістського контенту; а також 86 повідомлень користувачів, які попереджають, що Gemini використовується для створення контенту, що містить жорстоке поводження з дітьми.

Австралійська комісія з електронної безпеки (ESSC) оцінила, що звіт Google надає перше у світі розуміння того, як користувачі можуть використовувати технології для створення шкідливого та незаконного контенту.

Комісар Джулі Інман Грант з Комісії з кібербезпеки заявила, що це підкреслює важливість того, щоб компанії, що розробляють продукти штучного інтелекту, встановлювали та тестували ефективність захисних механізмів для запобігання створенню шкідливого, фальшивого контенту.

Google використовував функцію зіставлення – автоматизовану систему, яка зіставляє щойно завантажені зображення з відомими зображеннями – для виявлення та видалення контенту з жорстоким поводженням з дітьми, створеного Gemini. Однак Австралійська комісія з електронної безпеки заявила, що Google не використовував ту саму систему для видалення терористичного або насильницького екстремістського контенту, створеного Gemini.

Згідно з чинним австралійським законодавством, технологічні компанії повинні періодично надавати Комісії з електронної безпеки інформацію про свої зусилля щодо зменшення шкоди, інакше їм загрожують штрафи.

Зовсім недавно компанії були зобов'язані звітувати цій комісії за період з квітня 2023 року по лютий 2024 року. Австралійська комісія з електронної безпеки оштрафувала Telegram та Twitter, пізніше перейменований на X, за недоліки у їхній звітності.

X вже один раз оскаржив свій штраф у розмірі 610 500 австралійських доларів (382 000 доларів США), але очікується, що платформа соціальної мережі подасть апеляцію знову. Telegram також планує оскаржити штраф, накладений на канал.

Відколи наприкінці 2022 року «сенсаційний» чат-бот ChatGPT від американської компанії OpenAI здобув шалений суспільний резонанс, регуляторні органи в усьому світі закликали до вжиття ефективніших заходів, щоб гарантувати, що зловмисники не зловживатимуть штучним інтелектом для підбурювання до тероризму, вчинення шахрайства, створення фальшивого порнографічного контенту та участі в інших зловживальних діях.

Джерело: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html