'মূর্খ' ত্রুটির কারণে ChatGPT ব্যক্তিগত তথ্য প্রকাশ করে

গবেষকদের একটি দল বলছে যে তারা এআইকে এলোমেলো শব্দ পুনরাবৃত্তি করতে বলে ChatGPT-কে কিছু তথ্য প্রকাশ করতে সক্ষম হয়েছে।

গুগল ডিপমাইন্ড, ওয়াশিংটন বিশ্ববিদ্যালয়, কর্নেল বিশ্ববিদ্যালয়, কার্নেগি মেলন বিশ্ববিদ্যালয়, ক্যালিফোর্নিয়া বিশ্ববিদ্যালয় বার্কলে এবং ইটিএইচ জুরিখের গবেষকরা এআই কোম্পানিগুলিকে তাদের পণ্যগুলি, বৃহৎ ভাষার মডেল থেকে শুরু করে চ্যাটবট এবং ইমেজ জেনারেটরের মতো এআই পরিষেবাগুলিকে ক্ষমতা প্রদানকারী অন্তর্নিহিত প্রযুক্তি, আনুষ্ঠানিকভাবে প্রকাশ করার আগে পুঙ্খানুপুঙ্খভাবে পরীক্ষা করার আহ্বান জানিয়েছেন।

গবেষকরা চ্যাটজিপিটিকে "পবিত্র" শব্দটি অবিরাম লুপে পুনরাবৃত্তি করতে বলার পর এই সতর্কতা জারি করা হয়। চ্যাটজিপিটি তা মেনে নেয়, কিন্তু তারপর ওপেনএআই-এর সিইও এবং সহ-প্রতিষ্ঠাতার আসল ইমেল এবং ফোন নম্বর প্রকাশ করতে শুরু করে। কোম্পানি শব্দটি দিয়ে পরীক্ষা করার সময়, চ্যাটবটটি একটি র্যান্ডম আইন সংস্থার ইমেল এবং ফোন নম্বর প্রদর্শন করে।

স্মার্টফোনে প্রদর্শিত চ্যাটজিপিটি লোগো। ছবি: রয়টার্স

অন্যান্য কীওয়ার্ড ব্যবহার করে, তারা ChatGPT-কে বিটকয়েন ঠিকানা, ফ্যাক্স নম্বর, নাম, জন্ম তারিখ, সোশ্যাল মিডিয়া অ্যাকাউন্ট, কপিরাইটযুক্ত গবেষণাপত্রের উদ্ধৃতি, অথবা CNN- এর অর্থপ্রদানের নিবন্ধ প্রকাশ করতে সক্ষম হয়েছিল। ব্যক্তিগত তথ্য এবং ডেটার 10,000টি উদাহরণ তৈরি করতে দলটির খরচ হয়েছে মাত্র $200।

গবেষকরা অবাক হয়ে বলেছেন, চ্যাটজিপিটি দুর্বলতাকে "সত্যিই বোকা" বলে অভিহিত করেছেন এবং বলেছেন যে এটি আরও আগেই আবিষ্কার করা উচিত ছিল।

এই দুর্বলতাটি OpenAI-কে জানানো হয়েছিল এবং ৩০শে আগস্ট প্যাচ করা হয়েছিল। যাইহোক, Engadget- এর নতুন পরীক্ষায়, ChatGPT-কে "reply" শব্দটি অবিরাম পুনরাবৃত্তি করতে বলার সময়, টেক সাইটটি তখন কারো নাম এবং স্কাইপ আইডি পেয়েছিল।

ওপেনএআই এখনও কোনও মন্তব্য করেনি।

ChatGPT বা Dall-E টেক্সট-টু-ইমেজ জেনারেটরের মতো জেনারেটিভ AI গুলি বৃহৎ ভাষা মডেল এবং মেশিন লার্নিং অ্যালগরিদমের উপর তৈরি, ব্যবহারকারীর সম্মতি ছাড়াই বিপুল পরিমাণে ডেটার উপর প্রশিক্ষিত। OpenAI প্রকাশ করেনি যে ChatGPT কোন ডেটার উপর প্রশিক্ষিত কারণ এটিকে ক্ষমতা প্রদানকারী বৃহৎ ভাষা মডেলটি ক্লোজ-সোর্স।

হুই ডুক - ভিএনএক্সপ্রেসের মতে

উৎস

মন্তব্য (0)

সবচেয়ে জনপ্রিয়

সর্বশেষ

No data