خطرات فناوری جدید تولید تصویر ChatGPT در جعل رسید.

(CLO) ChatGPT اخیراً یک ابزار جدید برای ایجاد تصویر راه‌اندازی کرده است که در مدل GPT-4o ادغام شده و قابلیت‌های برتر ایجاد متن در تصویر را ارائه می‌دهد.

با این حال، کاربران به سرعت متوجه شدند که این ویژگی می‌تواند برای جعل صورتحساب رستوران مورد سوءاستفاده قرار گیرد.

سرمایه‌گذار دیدی داس تصویری از یک رسید جعلی از یک استیک‌فروشی در سانفرانسیسکو را در X منتشر کرد و ادعا کرد که این عکس با استفاده از GPT-4o ایجاد شده است.

سرمایه‌گذار دیدی این تصویر را در پلتفرم رسانه اجتماعی X به اشتراک گذاشت.

بسیاری از کاربران دیگر نیز با موفقیت این اثر را بازسازی کرده‌اند، حتی لکه‌های غذا و نوشیدنی را برای افزایش واقع‌گرایی به آن اضافه کرده‌اند.

کاربر دیگری تصویری از یک رسید با لکه‌های غذا را به اشتراک گذاشت که بسیار واقعی به نظر می‌رسید، اما آن هم توسط ChatGPT ساخته شده بود.

یا مثلاً کاربری در فرانسه رسید جعلی و مچاله شده‌ای از یک رستوران زنجیره‌ای محلی منتشر کرد.

این عکس توسط کاربری در فرانسه به اشتراک گذاشته شده است.

بسیاری دیگر این ویژگی جدید را آزمایش کرده‌اند و همچنین رسیدهای جعلی برای فروشگاه‌ها ایجاد کرده‌اند، اما تصاویر هنوز دارای تناقضاتی مانند: وجود کاما به جای نقطه در مبلغ کل؛ محاسبات نادرست (ضعف هوش مصنوعی در محاسبات اساسی).

با این حال، افراد مخرب می‌توانند به راحتی با انجام ویرایش‌های ساده با استفاده از نرم‌افزار یا تغییر دستورات (دستورات)، این مشکل را برطرف کنند.

سهولت ایجاد فاکتورهای جعلی، خطرات قابل توجهی مانند بازپرداخت‌های جعلی برای هزینه‌های غیرواقعی را ایجاد می‌کند.

در پاسخ به این مشکل، OpenAI اظهار داشت که تمام تصاویر تولید شده توسط هوش مصنوعی حاوی فراداده‌هایی هستند که منشأ آنها را از ChatGPT تأیید می‌کنند. این شرکت همچنین در صورت نقض سیاست‌هایش توسط کاربران، «اقدام» می‌کند و «به‌طور مداوم از بازخوردهای دنیای واقعی یاد می‌گیرد».

وقتی از تایا کریستینسون، سخنگوی OpenAI، در مورد اجازه ایجاد فاکتورهای جعلی سوال شد، او توضیح داد که هدف «به حداکثر رساندن آزادی خلاقیت» است و اظهار داشت که فاکتورهای جعلی می‌توانند برای آموزش مالی، هنر یا اهداف تبلیغاتی استفاده شوند.

این اولین باری نیست که از هوش مصنوعی سوءاستفاده می‌شود. پیش از این، از MidJourney و DALL-E برای ایجاد تصاویر جعلی از اسناد، کارت‌های شناسایی و حتی پول رایج استفاده شده بود.

کائو فونگ (طبق گزارش TC، MSB)

منبع: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html