रसीदों की जालसाजी में ChatGPT की नई छवि निर्माण तकनीक के खतरे।

(CLO) ChatGPT ने हाल ही में GPT-4o मॉडल में एकीकृत एक नया इमेज क्रिएशन टूल लॉन्च किया है, जिसमें बेहतर टेक्स्ट-इन-इमेज क्रिएशन क्षमताएं हैं।

हालांकि, उपयोगकर्ताओं ने जल्द ही पता लगा लिया कि इस सुविधा का दुरुपयोग रेस्तरां के बिलों में हेराफेरी करने के लिए किया जा सकता है।

निवेशक डीईडी दास ने X पर सैन फ्रांसिस्को के एक स्टीकहाउस की फर्जी रसीद की एक तस्वीर पोस्ट की, जिसमें दावा किया गया कि यह तस्वीर GPT-4o का उपयोग करके बनाई गई थी।

निवेशक डी.डी. ने इस तस्वीर को सोशल मीडिया प्लेटफॉर्म X पर साझा किया।

कई अन्य उपयोगकर्ताओं ने भी इस प्रभाव को सफलतापूर्वक दोहराया है, यहां तक ​​कि यथार्थता को बढ़ाने के लिए भोजन और पेय पदार्थों के दाग भी जोड़े हैं।

एक अन्य उपयोगकर्ता ने खाने के दागों वाली एक रसीद की तस्वीर साझा की जो देखने में बहुत वास्तविक लग रही थी, लेकिन इसे भी ChatGPT द्वारा ही बनाया गया था।

या, उदाहरण के लिए, फ्रांस में एक उपयोगकर्ता ने एक स्थानीय रेस्तरां श्रृंखला से एक नकली, मुड़ी हुई रसीद पोस्ट की।

यह फोटो फ्रांस के एक यूजर ने शेयर की थी।

कई अन्य लोगों ने इस नई सुविधा का परीक्षण किया है और दुकानों के लिए नकली रसीदें भी बनाई हैं, लेकिन छवियों में अभी भी कुछ विसंगतियां हैं जैसे: कुल राशि में पूर्ण विराम के स्थान पर अल्पविराम; गलत गणनाएं (बुनियादी गणनाओं में एआई की कमजोरी)।

हालांकि, दुर्भावनापूर्ण तत्व सॉफ्टवेयर का उपयोग करके साधारण बदलाव करके या कमांड (प्रॉम्प्ट) को संशोधित करके इसे आसानी से ठीक कर सकते हैं।

फर्जी चालान आसानी से बनाए जा सकने के कारण कई महत्वपूर्ण जोखिम उत्पन्न होते हैं, जैसे कि गैर-मौजूद खर्चों के लिए धोखाधड़ीपूर्ण धनवापसी।

इस मुद्दे के जवाब में, OpenAI ने कहा कि AI द्वारा जनरेट की गई सभी छवियों में ChatGPT से उनके स्रोत की पुष्टि करने वाला मेटाडेटा शामिल है। कंपनी उपयोगकर्ताओं द्वारा अपनी नीतियों का उल्लंघन करने पर कार्रवाई भी करती है और वास्तविक प्रतिक्रियाओं से लगातार सीखती रहती है।

नकली चालान बनाने की अनुमति देने के बारे में पूछे जाने पर, ओपनएआई की प्रवक्ता ताया क्रिस्टियनसन ने बताया कि इसका लक्ष्य "रचनात्मक स्वतंत्रता को अधिकतम करना" है, और सुझाव दिया कि नकली चालानों का उपयोग वित्तीय शिक्षा , कला या विज्ञापन उद्देश्यों के लिए किया जा सकता है।

यह पहली बार नहीं है जब कृत्रिम बुद्धिमत्ता का दुरुपयोग किया गया है। इससे पहले, मिडजर्नी और डीएलएल-ई का उपयोग दस्तावेजों, पहचान पत्रों और यहां तक ​​कि मुद्रा की नकली छवियां बनाने के लिए किया गया था।

काओ फोंग (टीसी, एमएसबी के अनुसार)

स्रोत: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html