রসিদ জাল করার ক্ষেত্রে ChatGPT-এর নতুন ইমেজ জেনারেশন প্রযুক্তির বিপদ।

(CLO) ChatGPT সম্প্রতি GPT-4o মডেলের সাথে একীভূত একটি নতুন ছবি তৈরির টুল চালু করেছে, যার মধ্যে উন্নত টেক্সট-ইন-ইমেজ তৈরির ক্ষমতা রয়েছে।

তবে, ব্যবহারকারীরা দ্রুত বুঝতে পেরেছেন যে রেস্তোরাঁর বিল জাল করার জন্য এই বৈশিষ্ট্যটির অপব্যবহার করা যেতে পারে।

বিনিয়োগকারী দীদি দাস X-এ সান ফ্রান্সিসকোর একটি স্টেকহাউস থেকে একটি জাল রসিদের ছবি পোস্ট করেছেন, দাবি করেছেন যে ছবিটি GPT-4o ব্যবহার করে তৈরি করা হয়েছে।

বিনিয়োগকারী ডিডি ছবিটি সোশ্যাল মিডিয়া প্ল্যাটফর্ম এক্স-এ শেয়ার করেছেন।

আরও অনেক ব্যবহারকারী সফলভাবে এই প্রভাবটি পুনরায় তৈরি করেছেন, এমনকি বাস্তবতা বৃদ্ধির জন্য খাবার ও পানীয়ের দাগও যোগ করেছেন।

অন্য একজন ব্যবহারকারী খাবারের দাগযুক্ত একটি রসিদের ছবি শেয়ার করেছেন যা দেখতে খুবই বাস্তবসম্মত ছিল, কিন্তু এটি ChatGPT দ্বারাও তৈরি করা হয়েছিল।

অথবা, উদাহরণস্বরূপ, ফ্রান্সের একজন ব্যবহারকারী স্থানীয় রেস্তোরাঁ চেইন থেকে একটি জাল, চূর্ণবিচূর্ণ রসিদ পোস্ট করেছেন।

ছবিটি ফ্রান্সের একজন ব্যবহারকারী শেয়ার করেছেন।

অনেকেই নতুন বৈশিষ্ট্যটি পরীক্ষা করে দেখেছেন এবং দোকানের জন্য জাল রসিদও তৈরি করেছেন, কিন্তু ছবিগুলিতে এখনও অসঙ্গতি রয়েছে যেমন: মোট পরিমাণে পিরিয়ডের পরিবর্তে কমা; ভুল গণনা (মৌলিক গণনায় AI এর দুর্বলতা)।

তবে, ক্ষতিকারক ব্যক্তিরা সফ্টওয়্যার ব্যবহার করে সহজ সম্পাদনা করে বা কমান্ড (প্রম্পট) পরিবর্তন করে সহজেই এটি ঠিক করতে পারে।

যে সহজে জাল ইনভয়েস তৈরি করা যায়, তা উল্লেখযোগ্য ঝুঁকি তৈরি করে, যেমন অস্তিত্বহীন খরচের জন্য জালিয়াতিপূর্ণ রিফান্ড।

এই সমস্যার জবাবে, OpenAI জানিয়েছে যে সমস্ত AI-উত্পাদিত ছবিতে ChatGPT থেকে তাদের উৎপত্তি স্বীকার করে এমন মেটাডেটা থাকে। ব্যবহারকারীরা যখন তাদের নীতি লঙ্ঘন করে এবং বাস্তব-বিশ্বের প্রতিক্রিয়া থেকে "নিরন্তর শিখে" তখন কোম্পানিটি "পদক্ষেপ নেয়"।

জাল চালান তৈরির অনুমতি দেওয়ার বিষয়ে জানতে চাইলে, OpenAI মুখপাত্র টায়া ক্রিশ্চিয়ানসন ব্যাখ্যা করেন যে লক্ষ্য হল "সৃজনশীল স্বাধীনতা সর্বাধিক করা", এবং পরামর্শ দেন যে জাল চালান আর্থিক শিক্ষা , শিল্প বা বিজ্ঞাপনের উদ্দেশ্যে ব্যবহার করা যেতে পারে।

এটিই প্রথমবার নয় যে কৃত্রিম বুদ্ধিমত্তার ব্যবহার করা হয়েছে। এর আগে, মিডজার্নি এবং ড্যাল-ই ব্যবহার করে নথি, পরিচয়পত্র এবং এমনকি মুদ্রার জাল ছবি তৈরি করা হয়েছিল।

কাও ফং (টিসি, এমএসবি অনুসারে)

সূত্র: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html