ومع ذلك، اكتشف المستخدمون سريعًا أنه من الممكن إساءة استخدام هذه الميزة لتزييف فواتير المطاعم.
نشر المستثمر ديدي داس صورة لإيصال مزيف من مطعم شرائح لحم في سان فرانسيسكو على موقع X، مدعيا أن الصورة تم إنشاؤها باستخدام GPT-4o.
قام المستثمر ديدي بمشاركة الصورة على موقع التواصل الاجتماعي X.
وقد نجح العديد من المستخدمين الآخرين أيضًا في إعادة إنشاء هذه اللعبة، حتى أنهم أضافوا إليها بقعًا من الطعام والشراب لزيادة الواقعية.
شارك مستخدم آخر صورة لإيصال به بقع طعام، والتي بدت واقعية للغاية، ولكن تم إنشاؤها أيضًا بواسطة ChatGPT.
أو مثل أحد المستخدمين في فرنسا الذي نشر إيصالاً مزيفاً من سلسلة مطاعم محلية كان مظهره مجعداً.
صورة تمت مشاركتها بواسطة مستخدم في فرنسا.
لقد قام العديد من الأشخاص الآخرين باختبار الميزة الجديدة وقاموا أيضًا بإنشاء إيصالات مزيفة للمتاجر، ولكن الصور لا تزال تحتوي على نقاط غير معقولة مثل: الفواصل بدلاً من النقاط في المبلغ الإجمالي؛ حساب خاطئ (ضعف الذكاء الاصطناعي في الحساب الأساسي).
ومع ذلك، لا يحتاج المهاجم إلا إلى إجراء تعديلات بسيطة باستخدام برنامج أو تعديل موجه الأوامر لإصلاح المشكلة.
إن القدرة على إنشاء فواتير مزيفة بسهولة تفتح الباب أمام مخاطر كبيرة، مثل عمليات استرداد الأموال الاحتيالية لنفقات غير موجودة.
ردًا على هذه المشكلة، صرّحت OpenAI بأن جميع الصور المُولّدة بواسطة الذكاء الاصطناعي تتضمن بيانات وصفية تُحدّد مصدر الصورة على أنها من ChatGPT. كما تتخذ الشركة إجراءات عند انتهاك المستخدمين لسياساتها، وتتعلم باستمرار من التعليقات الواقعية.
وعندما سُئلت عن السماح بإنشاء فواتير مزيفة، أوضحت المتحدثة باسم OpenAI، تايا كريستيانسون، أن الهدف هو "تعظيم الحرية الإبداعية"، واقترحت أنه يمكن استخدام الفواتير المزيفة لأغراض التعليم المالي أو الفن أو الإعلان.
هذه ليست المرة الأولى التي يُستغل فيها الذكاء الاصطناعي. ففي السابق، استُخدمت MidJourney وDALL-E لإنشاء صور مزيفة لوثائق وبطاقات هوية وحتى عملات.
كاو فونج (وفقًا لـ TC و MSB)
المصدر: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html
تعليق (0)