Новый генератор изображений ChatGPT представляет угрозу при подделке чеков

(CLO) ChatGPT недавно запустил новый инструмент создания изображений, интегрированный в модель GPT-4o, с выдающимися возможностями создания текста на изображениях.

Однако пользователи быстро обнаружили, что эту функцию можно использовать для подделки счетов в ресторанах.

Инвестор Диди Дас опубликовал на сайте X изображение поддельного чека из стейк-хауса в Сан-Франциско, заявив, что изображение было создано с помощью GPT-4o.

Инвестор Диди поделился изображением в социальной сети X.

Многие другие пользователи также успешно воссоздали его, даже добавив пятна от еды и напитков для большей реалистичности.

Другой пользователь поделился фотографией чека с пятнами от еды, которая выглядит очень реалистично, но также была создана ChatGPT.

Или как пользователь из Франции, который опубликовал поддельный чек из местной сети ресторанов, который имел мятый вид.

Фото предоставлено пользователем из Франции.

Многие другие протестировали новую функцию и также создали поддельные чеки для магазинов, но на фотографиях все еще есть необоснованные моменты, такие как: Запятые вместо точек в общей сумме; Неправильный расчет (слабость ИИ в базовых расчетах).

Однако для исправления ситуации злоумышленнику достаточно внести простые изменения с помощью программного обеспечения или настроить командную строку.

Возможность легкого создания поддельных счетов-фактур создает серьезные риски, такие как мошеннические возвраты средств за несуществующие расходы.

В ответ на проблему OpenAI заявила, что все изображения, созданные ИИ, включают метаданные, которые идентифицируют изображение как происходящее из ChatGPT. Компания также «принимает меры», когда пользователи нарушают ее политику, и «постоянно учится» на основе отзывов реального мира.

На вопрос о разрешении создания поддельных счетов-фактур представитель OpenAI Тая Кристиансон объяснила, что цель — «максимизировать творческую свободу», и предположила, что поддельные счета-фактуры могут использоваться в целях финансового образования , искусства или рекламы.

Это не первый случай эксплуатации ИИ. Ранее MidJourney и DALL-E использовались для создания поддельных изображений документов, удостоверений личности и даже валюты.

Као Фонг (согласно TC, MSB)

Источник: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html