'কালো কুকুর' আঁকার ক্ষেত্রে AI ত্রুটির জন্য ক্ষমা চাইল মেটা

[বিজ্ঞাপন_১]

ডিসেম্বরের মাঝামাঝি সময়ে, মেটা ভিয়েতনামে মেসেঞ্জার অ্যাপ্লিকেশনে মেটা এআই নামে একটি কৃত্রিম বুদ্ধিমত্তা চ্যাটবট সংহত করা শুরু করে এবং এটি সমস্ত ব্যবহারকারীর জন্য বিনামূল্যে প্রকাশ করে। এই টুলটি লামা 3.2 ভাষা মডেল ব্যবহার করে, ভিয়েতনামী ভাষা সমর্থন করে, তথ্য অনুসন্ধান, ছবি তৈরি এবং চ্যাট করার অনুমতি দেয়।

কিছুদিন পরেই, ভিয়েতনামের অনেক ব্যবহারকারী আবিষ্কার করেন যে মেটা এআই-এর ছবি তৈরিতে একটি গুরুতর ত্রুটি ছিল। বিশেষ করে, "ব্ল্যাক ডগ" কীওয়ার্ডটি প্রবেশ করালে, চ্যাটবটটি একটি কালো চামড়ার পুরুষ বা কোঁকড়া চুলের ছেলের ফলাফল ফেরত দেবে। ভিয়েতনামী ভাষায় "ব্ল্যাক ডগ ইমেজ" কীওয়ার্ডটি প্রবেশ করালে, মেটা এআই-ও একই রকম ফলাফল ফেরত দেবে।

Meta AI vẽ người da màu trong khi câu lệnh đặt ra yêu cầu nội dung khác là một sự cố nghiêm trọng — মেটা এআই বিভিন্ন কন্টেন্ট চাওয়ার সময় রঙিন মানুষদের আঁকা একটি গুরুতর সমস্যা।

৩১শে ডিসেম্বর, ভিয়েতনামে মেটার প্রতিনিধি আনুষ্ঠানিকভাবে এই ঘটনা সম্পর্কে কথা বলেন। কোম্পানিটি উপরে উল্লিখিত সমস্যাটি নিশ্চিত করে এবং এটি সমাধানের ঘোষণা দেয়। সেই সাথে, মেটা ভিয়েতনাম এই ঘটনার জন্য ক্ষমা চেয়েছে এবং জানিয়েছে যে এই সমস্যাটি অন্যান্য বিদ্যমান জেনারেটিভ এআই সিস্টেমেও ঘটতে পারে।

"এই ত্রুটির জন্য আমরা ক্ষমাপ্রার্থী। মেটা আমাদের বৈশিষ্ট্য এবং এআই মডেলগুলিতে সুরক্ষা ব্যবস্থা তৈরি করছে যাতে সকলের জন্য একটি নিরাপদ এবং আরও উপভোগ্য অভিজ্ঞতা প্রদান করা যায়। তবে, অন্যান্য জেনারেটিভ এআই সিস্টেমের মতো, এই মডেলটি ভুল বা আপত্তিকর বিষয়বস্তু ফিরিয়ে আনতে পারে, তাই আমরা ব্যবহারকারীদের এই সরঞ্জামগুলি দায়িত্বের সাথে ব্যবহার করার জন্য উৎসাহিত করি," কোম্পানির প্রতিনিধি বলেন।

অভিজ্ঞতার এক যুগ পরে, মেটা এআই ভাষা ব্যবহার করে বেশ মসৃণভাবে প্রতিক্রিয়া জানাতে পারার ক্ষমতার জন্য অনেকের কাছে অত্যন্ত প্রশংসিত হয়। ব্যবহারকারীদের জন্য বিনামূল্যে প্রকাশিত মডেলের তুলনায় ইমেজ তৈরির বৈশিষ্ট্যটিও ভালো মানের। এর একটি কারণ হতে পারে যে মেটা ফেসবুকে পোস্ট করা বিষয়বস্তুকে এআই প্রশিক্ষণ প্রক্রিয়ায় ইনপুট ডেটা হিসেবে ব্যবহার করে, যা এই টুলটিকে প্রাকৃতিক কমান্ড প্রকাশ এবং কার্যকর করতে সক্ষম করে।

তবে, বর্ণবাদের মতো ঘটনা বা AI-এর জন্য নির্ধারিত মানদণ্ডের সাথে খাপ খায় না এমন প্রতিক্রিয়া এড়ানো এখনও কঠিন। মেটা বলেছে যে এটি "রেড টিমিং" পরীক্ষার মাধ্যমে কৃত্রিম বুদ্ধিমত্তার ক্ষেত্রে বিশেষজ্ঞদের সাথে তার AI পরীক্ষা করে অনিচ্ছাকৃত ব্যবহার সনাক্ত করে, যা তারা একটি ক্রমাগত উন্নতি প্রক্রিয়ার মাধ্যমে সমাধান করে।

[বিজ্ঞাপন_২]
সূত্র: https://thanhnien.vn/meta-xin-loi-vi-su-co-ai-ve-con-cho-da-den-185241231104908626.htm