Опасность новой технологии генерации изображений ChatGPT при подделке чеков.

(CLO) Компания ChatGPT недавно выпустила новый инструмент для создания изображений, интегрированный в модель GPT-4o, с улучшенными возможностями создания текста внутри изображения.

Однако пользователи быстро обнаружили, что этой функцией можно злоупотреблять для подделки счетов в ресторанах.

Инвестор Диди Дас разместил на X изображение поддельного чека из стейк-хауса в Сан-Франциско, утверждая, что фотография была создана с помощью GPT-4o.

Инвестор Диди поделился изображением в социальной сети X.

Многие другие пользователи также успешно воссоздали этот эффект, даже добавив пятна от еды и напитков для повышения реализма.

Другой пользователь поделился изображением чека с пятнами от еды, которые выглядели очень реалистично, но также были созданы с помощью ChatGPT.

Или, например, пользователь из Франции опубликовал поддельный, помятый чек из местной сети ресторанов.

Фотографию опубликовал пользователь из Франции.

Многие другие пользователи протестировали новую функцию и даже создали поддельные чеки для магазинов, но изображения по-прежнему содержат несоответствия, такие как: запятые вместо точек в общей сумме; неверные расчеты (слабость ИИ в базовых вычислениях).

Однако злоумышленники могут легко это исправить, внеся простые изменения с помощью программного обеспечения или модифицировав команды (подсказки).

Легкость, с которой можно создавать поддельные счета-фактуры, создает значительные риски, такие как мошеннические возвраты средств за несуществующие расходы.

В ответ на эту проблему компания OpenAI заявила, что все изображения, созданные с помощью ИИ, содержат метаданные, подтверждающие их происхождение из ChatGPT. Компания также «принимает меры», когда пользователи нарушают ее правила, и «постоянно учится» на основе отзывов из реального мира.

На вопрос о разрешении создания поддельных счетов-фактур представитель OpenAI Тая Кристиансон пояснила, что цель состоит в «максимизации творческой свободы», и предположила, что поддельные счета-фактуры могут использоваться в целях финансового образования , искусства или рекламы.

Это не первый случай использования ИИ в корыстных целях. Ранее MidJourney и DALL-E применялись для создания поддельных изображений документов, удостоверений личности и даже валюты.

Као Фонг (по данным TC, MSB)

Источник: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html