مولد الصور الجديد في ChatGPT يُشكل تهديدًا في تزوير الإيصالات

ومع ذلك، اكتشف المستخدمون سريعًا أنه من الممكن إساءة استخدام هذه الميزة لتزييف فواتير المطاعم.

نشر المستثمر ديدي داس صورة لإيصال مزيف من مطعم شرائح لحم في سان فرانسيسكو على موقع X، مدعيا أن الصورة تم إنشاؤها باستخدام GPT-4o.

قام المستثمر ديدي بمشاركة الصورة على موقع التواصل الاجتماعي X.

وقد نجح العديد من المستخدمين الآخرين أيضًا في إعادة إنشاء هذه اللعبة، حتى أنهم أضافوا إليها بقعًا من الطعام والشراب لزيادة الواقعية.

شارك مستخدم آخر صورة لإيصال به بقع طعام، والتي بدت واقعية للغاية، ولكن تم إنشاؤها أيضًا بواسطة ChatGPT.

أو مثل أحد المستخدمين في فرنسا الذي نشر إيصالاً مزيفاً من سلسلة مطاعم محلية كان مظهره مجعداً.

صورة تمت مشاركتها بواسطة مستخدم في فرنسا.

وقد قام العديد من الأشخاص الآخرين باختبار الميزة الجديدة وإنشاء إيصالات مزيفة للمتاجر، ولكن الصور لا تزال تحتوي على تناقضات مثل: الفواصل بدلاً من النقاط في الإجمالي؛ سوء التقدير (ضعف الذكاء الاصطناعي في الحسابات الأساسية).

ومع ذلك، لا يحتاج المهاجم إلا إلى إجراء تعديلات بسيطة باستخدام برنامج أو تعديل موجه الأوامر لإصلاح المشكلة.

إن القدرة على إنشاء فواتير مزيفة بسهولة تفتح الباب أمام مخاطر كبيرة، مثل عمليات استرداد الأموال الاحتيالية لنفقات غير موجودة.

ردًا على هذه المشكلة، قالت OpenAI أن جميع الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي تحتوي على بيانات وصفية (سمات) تسجل أصل الصورة من ChatGPT. وتتخذ الشركة أيضًا "إجراءات" عندما ينتهك المستخدمون السياسات و"تتعلم باستمرار" من التعليقات الواردة في العالم الواقعي.

وعندما سُئلت عن السماح بإنشاء فواتير مزيفة، أوضحت المتحدثة باسم OpenAI، تايا كريستيانسون، أن الهدف هو "تعظيم الحرية الإبداعية"، واقترحت أنه يمكن استخدام الفواتير المزيفة لأغراض التعليم المالي أو الفن أو الإعلان.

هذه ليست المرة الأولى التي يتم فيها استغلال الذكاء الاصطناعي. في السابق، تم استخدام MidJourney وDALL-E لإنشاء صور مزيفة للمستندات وبطاقات الهوية وحتى العملات.

كاو فونج (وفقًا لـ TC و MSB)

المصدر: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html