مخاطر تقنية توليد الصور الجديدة من ChatGPT في تزوير الإيصالات.

(CLO) أطلقت ChatGPT مؤخرًا أداة جديدة لإنشاء الصور مدمجة في نموذج GPT-4o، مع قدرات فائقة لإنشاء النصوص داخل الصور.

لكن سرعان ما اكتشف المستخدمون أن هذه الميزة يمكن إساءة استخدامها لتزوير فواتير المطاعم.

نشر المستثمر ديدي داس صورة لإيصال مزيف من مطعم شرائح اللحم في سان فرانسيسكو على منصة X، مدعياً ​​أن الصورة تم إنشاؤها باستخدام GPT-4o.

قام المستثمر ديدي بنشر الصورة على منصة التواصل الاجتماعي X.

وقد نجح العديد من المستخدمين الآخرين أيضاً في إعادة إنشاء هذا التأثير، بل وأضافوا بقع الطعام والشراب لتعزيز الواقعية.

قام مستخدم آخر بمشاركة صورة لإيصال عليه بقع طعام بدت واقعية للغاية، ولكنها كانت أيضاً من تصميم ChatGPT.

أو على سبيل المثال، قام مستخدم في فرنسا بنشر إيصال مزيف ومجعد من سلسلة مطاعم محلية.

تمت مشاركة الصورة من قبل مستخدم في فرنسا.

قام العديد من الآخرين باختبار الميزة الجديدة وقاموا أيضًا بإنشاء إيصالات مزيفة للمتاجر، ولكن لا تزال الصور تحتوي على تناقضات مثل: الفواصل بدلاً من النقاط في المبلغ الإجمالي؛ والحسابات غير الصحيحة (وهي نقطة ضعف في الذكاء الاصطناعي في العمليات الحسابية الأساسية).

ومع ذلك، يمكن للجهات الفاعلة الخبيثة إصلاح ذلك بسهولة عن طريق إجراء تعديلات بسيطة باستخدام البرامج أو تعديل الأوامر (الموجهات).

إن سهولة إنشاء الفواتير المزيفة تفتح المجال لمخاطر كبيرة، مثل عمليات الاسترداد الاحتيالية لنفقات غير موجودة.

رداً على هذه المشكلة، صرّحت شركة OpenAI بأن جميع الصور المُولّدة بواسطة الذكاء الاصطناعي تحتوي على بيانات وصفية تُشير إلى مصدرها من ChatGPT. كما تتخذ الشركة إجراءات عند انتهاك المستخدمين لسياساتها، وتستفيد باستمرار من ملاحظات المستخدمين في العالم الحقيقي.

عندما سُئلت المتحدثة باسم OpenAI، تايا كريستيانسن، عن السماح بإنشاء فواتير مزيفة، أوضحت أن الهدف هو "تعظيم الحرية الإبداعية"، واقترحت أنه يمكن استخدام الفواتير المزيفة لأغراض التثقيف المالي أو الفن أو الإعلان.

ليست هذه المرة الأولى التي يتم فيها استغلال الذكاء الاصطناعي. ففي السابق، تم استخدام برنامجي MidJourney وDALL-E لإنشاء صور مزيفة للوثائق وبطاقات الهوية وحتى العملات.

كاو فونغ (بحسب TC، MSB)

المصدر: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html