গুগল: জেমিনি এআই সফটওয়্যারের অপব্যবহার করে ভুয়া সন্ত্রাসী কন্টেন্ট তৈরি করা হচ্ছে।

অস্ট্রেলিয়ান কর্তৃপক্ষের কাছে পাঠানো এক বিবৃতিতে গুগল জানিয়েছে যে গত এক বছরে, তারা বিশ্বব্যাপী তাদের কৃত্রিম বুদ্ধিমত্তা (এআই) সফটওয়্যার, জেমিনি, ব্যবহার করে ভুয়া সন্ত্রাসী বা সহিংস চরমপন্থী বিষয়বস্তু তৈরির বিষয়ে ২৫৮টি অভিযোগ পেয়েছে; এবং ৮৬টি ব্যবহারকারীর প্রতিবেদনে সতর্ক করা হয়েছে যে জেমিনিকে শিশু নির্যাতনের বিষয়বস্তু তৈরিতে অপব্যবহার করা হচ্ছে।

অস্ট্রেলিয়ান ইলেকট্রনিক সেফটি কমিশন (ESSC) মূল্যায়ন করেছে যে গুগলের প্রতিবেদনটি ব্যবহারকারীরা কীভাবে প্রযুক্তিকে কাজে লাগিয়ে দূষিত এবং অবৈধ সামগ্রী তৈরি করতে পারে সে সম্পর্কে বিশ্বের প্রথম অন্তর্দৃষ্টি প্রদান করে।

সাইবারসিকিউরিটি কমিশনের কমিশনার জুলি ইনম্যান গ্রান্ট বলেছেন যে এটি ক্ষতিকারক, জাল বিষয়বস্তুর উৎপাদন রোধে AI পণ্য তৈরি এবং সুরক্ষা ব্যবস্থার কার্যকারিতা পরীক্ষা করার জন্য কোম্পানিগুলির গুরুত্বকে তুলে ধরে।

জেমিনি কর্তৃক তৈরি শিশু নির্যাতনের বিষয়বস্তু শনাক্ত করতে এবং অপসারণ করতে গুগল একটি ম্যাচিং বৈশিষ্ট্য - একটি স্বয়ংক্রিয় সিস্টেম যা নতুন আপলোড করা ছবিগুলিকে পরিচিত ছবিগুলির সাথে মেলায় - ব্যবহার করেছে। তবে, অস্ট্রেলিয়ান ইলেকট্রনিক সেফটি কমিশন জানিয়েছে যে জেমিনি কর্তৃক তৈরি সন্ত্রাসী বা সহিংস চরমপন্থী বিষয়বস্তু অপসারণের জন্য গুগল একই সিস্টেম ব্যবহার করেনি।

বর্তমান অস্ট্রেলিয়ান আইনের অধীনে, প্রযুক্তি কোম্পানিগুলিকে পর্যায়ক্রমে ইলেকট্রনিক নিরাপত্তা কমিশনকে তাদের ক্ষতি হ্রাসের প্রচেষ্টা সম্পর্কে তথ্য সরবরাহ করতে হবে, অন্যথায় জরিমানা ভোগ করতে হবে।

সম্প্রতি, কোম্পানিগুলিকে ২০২৩ সালের এপ্রিল থেকে ২০২৪ সালের ফেব্রুয়ারী পর্যন্ত সময়ের জন্য এই কমিশনে তথ্য রিপোর্ট করতে বাধ্য করা হয়েছিল। অস্ট্রেলিয়ান ইলেকট্রনিক সেফটি কমিশন টেলিগ্রাম এবং টুইটার - পরে নামকরণ করা হয়েছে X - কে তাদের রিপোর্টিংয়ে ত্রুটির জন্য জরিমানা করেছে।

X ইতিমধ্যেই তার ৬১০,৫০০ অস্ট্রেলিয়ান ডলার (৩৮২,০০০ মার্কিন ডলার) জরিমানার বিরুদ্ধে একবার আপিল করেছে, তবে সোশ্যাল মিডিয়া প্ল্যাটফর্মটি আবারও আপিল করবে বলে আশা করা হচ্ছে। টেলিগ্রাম চ্যানেলের উপর আরোপিত জরিমানার বিরুদ্ধে আপিল করার পরিকল্পনাও করেছে।

২০২২ সালের শেষের দিকে মার্কিন কোম্পানি OpenAI-এর "চাঞ্চল্যকর" চ্যাটবট ChatGPT জনসচেতনতায় বিস্ফোরিত হওয়ার পর থেকে, বিশ্বজুড়ে নিয়ন্ত্রক সংস্থাগুলি আরও কার্যকর ব্যবস্থা গ্রহণের আহ্বান জানিয়েছে যাতে দূষিত ব্যক্তিরা সন্ত্রাসবাদকে উস্কে দিতে, জালিয়াতি করতে, জাল পর্নোগ্রাফিক সামগ্রী তৈরি করতে এবং অন্যান্য আপত্তিকর কার্যকলাপে জড়িত হতে AI-এর অপব্যবহার না করে।

সূত্র: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html