Метадані для маркування зображень, згенерованих штучним інтелектом, у Facebook

Нік Клегг, президент з глобальних справ Meta, заявив, що компанія використовуватиме набір маркерів, вбудованих у файли. Компанія застосовуватиме мітки до будь-якого контенту, опублікованого в її сервісах Facebook, Instagram та Threads, сигналізуючи користувачам, що зображення (які можуть здаватися справжніми фотографіями) насправді є цифровими творіннями, створеними штучним інтелектом. Компанія також позначила контент, створений за допомогою власних інструментів штучного інтелекту, повідомляє Reuters.

Щойно нова система запрацює, Meta робитиме те саме для зображень, згенерованих на сервісах OpenAI, Microsoft, Adobe, Midjourney, Shutterstock та Alphabet. Це оголошення є першою новиною про новий стандарт, який розробляють технологічні компанії для зменшення шкоди від генеративного штучного інтелекту, який може створювати підроблений контент навіть з простого контенту.

Маркування зображень, згенероване штучним інтелектом, допоможе обмежити дезінформацію та шахрайство

Цей підхід базується на схемі, встановленій компаніями протягом останнього десятиліття, для координації видалення забороненого контенту на платформах, такого як зображення масового насильства та експлуатації дітей.

Клегг вважає, що компанії вже можуть надійно маркувати зображення, згенеровані штучним інтелектом, зазначаючи, що більш складні інструменти маркування аудіо- та відеоконтенту все ще розробляються.

Meta почне вимагати від користувачів маркування зміненого аудіо- та відеоконтенту та накладатиме штрафи, якщо вони цього не зроблять, але Клегг сказав, що наразі немає дієвого механізму для маркування тексту, згенерованого інструментами штучного інтелекту, такими як ChatGPT.

Незалежна наглядова рада Meta розкритикувала політику компанії щодо оманливо відредагованих відео, заявивши, що контент слід маркувати, а не видаляти, тому Клегг сказав, що новий крок Meta може допомогти краще класифікувати такий контент.

Посилання на джерело: https://thanhnien.vn/meta-gan-nhan-hinh-anh-do-ai-tao-ra-tren-facebook-18524020711453543.htm