Небезпеки нової технології генерації зображень ChatGPT під час підробки чеків.

(CLO) ChatGPT нещодавно запустив новий інструмент для створення зображень, інтегрований у модель GPT-4o, з покращеними можливостями створення тексту в зображенні.

Однак користувачі швидко виявили, що цією функцією можна зловживати для фальсифікації рахунків у ресторанах.

Інвестор Діді Дас опублікував на X зображення підробленого чека із стейк-хауса Сан-Франциско, стверджуючи, що фотографія була створена за допомогою GPT-4o.

Інвестор Діді поділився зображенням у соціальній мережі X.

Багато інших користувачів також успішно відтворили цей ефект, навіть додавши плями від їжі та напоїв для посилення реалістичності.

Інший користувач поділився зображенням чека з плямами від їжі, яке виглядало дуже реалістично, але також було створено ChatGPT.

Або, наприклад, користувач у Франції опублікував підроблений, зім'ятий чек з місцевої мережі ресторанів.

Фотографією поділився користувач з Франції.

Багато інших протестували нову функцію та також створили підроблені чеки для магазинів, але зображення все ще мають невідповідності, такі як: коми замість крапок у загальній сумі; неправильні розрахунки (слабкість штучного інтелекту в базових розрахунках).

Однак, зловмисники можуть легко виправити це, внісши прості зміни за допомогою програмного забезпечення або змінивши команди (підказки).

Легкість, з якою можна створювати підроблені рахунки-фактури, створює значні ризики, такі як шахрайське відшкодування коштів за неіснуючі витрати.

У відповідь на цю проблему, OpenAI заявила, що всі зображення, згенеровані штучним інтелектом, містять метадані, які підтверджують їхнє походження з ChatGPT. Компанія також «вживає заходів», коли користувачі порушують її політику, і «постійно навчається» на основі реальних відгуків.

Коли речницю OpenAI Таю Крістіансон запитали про дозвіл на створення підроблених рахунків-фактур, вона пояснила, що метою є «максимізація творчої свободи», і припустила, що підроблені рахунки-фактури можна використовувати для фінансової освіти , мистецтва або рекламних цілей.

Це не перший випадок використання штучного інтелекту. Раніше MidJourney та DALL-E використовувалися для створення підроблених зображень документів, посвідчень особи та навіть валюти.

Цао Фонг (згідно з TC, MSB)

Джерело: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html