Опасения по поводу мошенничества, связанные со способностью ChatGPT создавать реалистичные изображения.

ChatGPT «рисует как фотография»

26 марта мировое и вьетнамское сообщества пользователей ИИ были взбудоражены официальным выпуском инструмента Images in ChatGPT, предназначенного для создания изображений и предназначенного для пользователей интеллектуальной модели OpenAI. Ранее ChatGPT также обладал возможностями создания изображений, но они были ограничены и зависели от другой известной модели преобразования текста в изображение под названием DALL-E.

Способность инструмента преобразовывать текст в рисунки и выполнять «слияние изображений качества Photoshop» быстро привлекла внимание. Многие пользователи отметили «потрясающее» качество выходных изображений, большинство оценили его как «превосходящее» качество других популярных моделей ИИ на рынке.

ChatGPT создает реалистичные изображения кофейных чашек всего лишь с помощью простой команды.

По словам Габриэля Го, руководителя исследовательского отдела OpenAI, существенное улучшение возможностей генерации изображений в ChatGPT с использованием модели GPT-4o заключается в «связывании» — термине, обозначающем степень, в которой генератор изображений на основе ИИ поддерживает связи между атрибутами и объектами. Го утверждает, что GPT-4o может точно связывать атрибуты для 15-20 различных объектов без ошибок, значительно повышая точность и надежность генерируемого контента.

Функция Images in ChatGPT не только превосходно справляется с созданием изображений, но и устраняет критический недостаток других инструментов для создания изображений с использованием ИИ: отображение текста внутри изображений. На самом деле, многие изображения, содержащие текст, отображаются точно, что значительно затрудняет различение реальных и поддельных изображений.

Недостатком инструмента является относительно длительное время создания изображений, но это считается приемлемым, поскольку задержка обусловлена ​​тем, что создание высококачественных изображений с точными деталями, соответствующих описанию пользователя, всегда требует терпения. Исследовательская группа заявила, что проблема задержки будет решена в будущем.

Было высказано множество опасений по поводу возможности манипулирования изображениями.

Помимо первоначального удовольствия, которое ChatGPT и OpenAI доставляют пользователям, вновь на первый план вышли опасения по поводу информационной безопасности, конфиденциальности и риска эксплуатации. «Вскоре изображения, которые вы видите в интернете, могут оказаться нереальными», — выразил свою обеспокоенность пользователь Facebook из Вьетнама, поскольку он может попросить ChatGPT создать полностью сфабрикованные изображения, которые будут выглядеть так же реалистично, как фотографии, например, фотографию актера и бывшего рестлера Дуэйна Джонсона (Скалы) в рекламе жевательной резинки или трехцветного кота, сидящего на плите, который выглядит в точности как фотография.

Благодаря подробным командам пользователи могут создавать удивительные результаты, не обладая глубокими знаниями традиционных инструментов для редактирования фотографий.

На самом деле, многие даже опробовали функцию «раздевания» в новом инструменте. ТН ( Ханой ) рассказала, что использовала фотографию модели из интернета, чтобы попросить ChatGPT переодеться по её просьбе, и почти все запросы были выполнены с высокой точностью. «Однако были и случаи, когда запросы отклонялись, в основном из-за нарушений политики системы в отношении создания изображений, защищенных авторским правом, или контента, имеющего слишком откровенный характер», — поделилась ТН.

В ходе тестирования, проведенного газетой Thanh Nien , ChatGPT отказался создавать изображения, связанные с известными или защищенными авторским правом персонажами из реального мира, фильмов и комиксов. «Я не могу создать запрошенное изображение, потому что на присланном вами эталонном изображении четко показан Доктор Стрэндж — персонаж Marvel, защищенный авторским правом, — и это нарушает нашу действующую политику в отношении контента», — ответила система на запрос о создании изображения Доктора Стрэнджа, сидящего... и пьющего холодный чай во Вьетнаме.

Джеки Шеннон, руководитель отдела мультимодальных продуктов в ChatGPT, подтверждает, что изображения в ChatGPT обеспечивают надежную защиту от дипфейков, порнографического или мошеннического контента. Примечательно, что сгенерированные изображения содержат стандартные метаданные C2PA для идентификации их как продуктов ИИ, но для проверки требуется отдельный инструмент.

Однако многие люди по-прежнему успешно «обходят правила» и используют изображения знаменитостей в развлекательных целях. Например, фотография генерального директора Тима Кука, держащего телефон Samsung вместо iPhone, или изображение актера Роберта Дауни-младшего, жующего овощную конфету, или серия картин, на которых Криштиану Роналду и Лионель Месси соревнуются за мяч в маленьком переулке во Вьетнаме на глазах у множества зрителей...

Источник: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm