Технологічна галузь прагне ідентифікувати зображення, створені штучним інтелектом

Генеральний директор Truepic Джеффрі Макгрегор заявив, що інцидент був лише верхівкою айсберга. У соціальних мережах буде більше контенту, створеного штучним інтелектом, і ми до цього не готові, сказав Макгрегор.

За даними CNN, Truepic хоче вирішити цю проблему, запропонувавши технологію, яка нібито автентифікує медіафайли під час їх створення за допомогою Truepic Lens. Додаток для збору даних повідомлятиме користувачам дату, час, місцезнаходження та пристрій, який використовувався для створення зображення, а також застосовуватиме цифровий підпис, щоб перевірити, чи є зображення природним, чи згенерованим штучним інтелектом.

Фейкове фото вибуху в Пентагоні стало вірусним у Твіттері

Truepic, компанія, що підтримується Microsoft і заснована у 2015 році, заявила, що до неї зацікавилися неурядові організації , медіакомпанії та навіть страхові компанії, які хочуть підтвердити законність претензій.

Макгрегор каже, що коли все можна підробити, коли штучний інтелект досяг свого піку якості та доступності, ми більше не знаємо, що таке реальність в Інтернеті.

Технологічні компанії, такі як Truepic, роками борються з дезінформацією в Інтернеті. Але поява нового покоління інструментів штучного інтелекту, які можуть генерувати зображення та текст за командою користувача, додала актуальності. Раніше цього року широко поширювалися фальшиві зображення Папи Франциска в пуховику Balenciaga та колишнього президента США Дональда Трампа під час арешту. Обидва інциденти спантеличили мільйони людей щодо потенційної небезпеки штучного інтелекту.

Деякі законодавці зараз закликають технологічні компанії вирішити цю проблему, маркуючи контент, створений штучним інтелектом. Віце-президент Європейської комісії (ЄК) Віра Йоурова заявила, що такі компанії, як Google, Meta, Microsoft та TikTok, приєдналися до добровільного кодексу практик Європейського Союзу (ЄС) щодо боротьби з дезінформацією.

Зростаюча кількість стартапів та технологічних гігантів, включаючи тих, хто впроваджує генеративний штучний інтелект у свої продукти, намагаються впровадити стандарти та рішення, щоб допомогти людям визначити, чи було зображення чи відео створено за допомогою штучного інтелекту.

Але оскільки технології штучного інтелекту розвиваються швидше, ніж люди можуть встигати за ними, неясно, чи можуть ці рішення повністю вирішити проблему. Навіть OpenAI, компанія, що стоїть за Dall-E та ChatGPT, визнала, що її власні зусилля щодо виявлення текстів, створених штучним інтелектом, недосконалі.

Компанії, що розробляють рішення, використовують два підходи до вирішення проблеми. Перший полягає у розробці програм для ідентифікації зображень, згенерованих штучним інтелектом, після їх створення та поширення в Інтернеті. Інший зосереджений на позначенні зображення як справжнього або згенерованого штучним інтелектом за допомогою певного типу цифрового підпису.

Над першим працюють Reality Defender та Hive Moderation. За допомогою їхньої платформи користувачі можуть завантажувати зображення для сканування, а потім отримувати розбивку, яка показує відсоток того, чи є фотографія справжнім, чи згенерованим штучним інтелектом.

Reality Defender заявила, що використовує власну технологію глибоких фейків та генеративного відбитків контенту для виявлення відео, аудіо та зображень, згенерованих штучним інтелектом. У прикладі, наданому компанією, Reality Defender показала глибоке фейкове зображення Тома Круза, яке було на 53% «підозрілим», оскільки людина на зображенні мала спотворене обличчя, яке часто можна побачити на підроблених фотографіях.

Зображення з позначками, створені штучним інтелектом

Ці сервіси пропонують безкоштовні та платні версії. Hive Moderation стверджує, що стягує 1,50 долара за 1000 зображень. Realty Defender каже, що ціни можуть змінюватися залежно від різних факторів, у випадках, коли клієнтам потрібна експертиза та підтримка компанії. Генеральний директор Reality Defender Бен Колман каже, що ризик подвоюється щомісяця, оскільки будь-хто може створювати підроблені фотографії за допомогою інструментів штучного інтелекту.

Кілька інших компаній працюють над додаванням своєрідної позначки до зображень, щоб засвідчити, чи є вони справжніми, чи створеними штучним інтелектом. Поки що ці зусилля значною мірою зумовлені Альянсом автентичності та походження контенту (C2PA).

C2PA була заснована у 2021 році для створення технічного стандарту сертифікації походження та історії цифрових медіа, поєднуючи Ініціативу автентифікації контенту (CAI) від Adobe та Проект Origin, очолюваний Microsoft та BBC, з акцентом на боротьбі з дезінформацією в цифрових новинах. Серед інших компаній, що беруть участь у C2PA, є Truepic, Intel та Sony.

Ґрунтуючись на принципах C2PA, CAI випустить інструменти з відкритим кодом для компаній, щоб створювати облікові дані контенту або метадані, що містять інформацію про зображення. Згідно з веб-сайтом CAI, це дозволяє творцям прозоро ділитися деталями про те, як вони створили зображення. Таким чином, кінцеві користувачі можуть отримати доступ до контексту щодо того, хто, що і як було змінено зображення, а потім самостійно оцінити, наскільки автентичним є зображення.

Багато компаній вже інтегрували стандарт C2PA та інструменти CAI у свої програми. Firefly від Adobe, новий інструмент для роботи з зображеннями на основі штучного інтелекту, доданий до Photoshop, відповідає стандарту C2PA завдяки своїй функції Content Credentials. Microsoft також оголосила, що зображення та відео, створені за допомогою Bing Image Creator та Microsoft Designer, матимуть криптографічні підписи в найближчі місяці.

У травні Google анонсував функцію «Про це зображення», яка дозволяє користувачам бачити, коли зображення вперше з’явилося в Google і де його можна побачити. Пошуковий гігант також оголосив, що кожне зображення, згенероване штучним інтелектом Google, міститиме розмітку в оригінальному файлі, щоб «додати контекст», якщо зображення знайдено на іншому веб-сайті або платформі.

Хоча технологічні компанії намагаються вирішити проблеми зі зображеннями, створеними штучним інтелектом, та цілісністю цифрових медіа, експерти в цій галузі наголошують, що підприємствам потрібно буде співпрацювати один з одним та з урядами для вирішення цієї проблеми. Проте технологічні компанії поспішають розробляти штучний інтелект, незважаючи на ризики.

Посилання на джерело