আরও বেশি করে ভুল তথ্য, আমাদের কি AI-কে অনুসন্ধান করে জিজ্ঞাসা করা উচিত?

যে যুগে কৃত্রিম বুদ্ধিমত্তা যেকোনো প্রশ্নের উত্তর কয়েক সেকেন্ডের মধ্যে দিতে পারে, সেখানে অনেকেই কৃত্রিম বুদ্ধিমত্তাকে সঠিক জ্ঞানের উৎস হিসেবে গ্রহণ করে। কিন্তু যদি ইনপুট তথ্য ভুল হয়, তাহলে কি কৃত্রিম বুদ্ধিমত্তা সঠিক উত্তর তৈরি করতে পারবে?

AI থেকে পাওয়া তথ্য কি সবসময় সঠিক?

এমন এক পৃথিবীতে যেখানে তথ্য মিশ্রিত, সত্য বলার জন্য শুধুমাত্র কৃত্রিম বুদ্ধিমত্তার উপর নির্ভর করা একটি জুয়া।

AI সঠিক-ভুল পার্থক্য করে না, এটি কেবল তথ্য প্রতিফলিত করে।

Tuoi Tre Online এর মতে, ইন্টারনেট থেকে সংগৃহীত বিপুল পরিমাণ তথ্য থেকে কৃত্রিম বুদ্ধিমত্তা প্রশিক্ষিত করা হয়, যেখানে প্রচলিত জ্ঞান এবং ষড়যন্ত্র তত্ত্ব উভয়ই রয়েছে। AI সত্য এবং মিথ্যার মধ্যে পার্থক্য করে না, এটি কেবল ভাষার ধরণ রেকর্ড করে এবং যা শেখে তার উপর ভিত্তি করে প্রতিক্রিয়া জানায়। যদি প্রশিক্ষণের তথ্যে ত্রুটি বা পক্ষপাত থাকে, তাহলে AI উত্তরেও তা প্রতিফলিত করবে।

মূল তথ্যের পাশাপাশি, ব্যবহারকারী প্রশ্নে যা প্রদান করেন তাও সরাসরি সঠিকতাকে প্রভাবিত করে। একটি ভুল কিন্তু ভালোভাবে উপস্থাপিত প্রশ্ন সহজে এআইকে "এটি সত্য বলে বিশ্বাস করান" এবং সেই অনুযায়ী মিথ্যা উত্তর তৈরি করুন।

বিশেষ করে, যদি কোনও ব্যবহারকারী এমন প্রতিক্রিয়ার অনুরোধ করে যা সত্য নয় এমন কিছু নিশ্চিত করে, তাহলে AI এটি "মান্য" করতে পারে কারণ এর লক্ষ্য হল একটি শব্দার্থিক প্রতিক্রিয়া তৈরি করা, সত্য যাচাই করা নয়।

এই কারণেই AI "সাবলীলভাবে কথা বলতে পারে কিন্তু স্পষ্টতই ভুল হতে পারে।" এটি মানুষের মতো সঠিক থেকে ভুল বিচার করে না, বরং কেবল পরবর্তী সম্ভাব্য শব্দটির ভবিষ্যদ্বাণী করে। এর ফলে গবেষকরা হ্যালুসিনেশন নামক একটি ঘটনার সৃষ্টি হয়, যখন AI এমন জাল তথ্য তৈরি করে যা বিশ্বাসযোগ্য বলে মনে হয়। যদি AI সঠিক তথ্য খুঁজে না পায় তবে একটি নাম, একটি ঘটনা, এমনকি একটি বৈজ্ঞানিক গবেষণাও "বানোয়াট" হতে পারে।

ভুল তথ্যের সমুদ্রে কখন AI "সঠিক"?

যদিও এটি সত্যকে স্ব-স্বীকৃতি দিতে সক্ষম নয়, তবুও কিছু নির্দিষ্ট পরিস্থিতিতে এআই সঠিক প্রতিক্রিয়া তৈরি করতে পারে ।

যখন প্রশ্নটি কোনও মিথ্যা তথ্য খণ্ডন বা যাচাই করার জন্য জিজ্ঞাসা করে, তখন মডেলটি অযৌক্তিকতা খুঁজে বের করে তা খণ্ডন করার প্রবণতা দেখায়।

উদাহরণস্বরূপ, যদি কোনও ব্যবহারকারী "পৃথিবী সমতল তাই এটিকে প্রদক্ষিণ করে উপগ্রহ থাকতে পারে না" এই যুক্তি দেন এবং বিশ্লেষণের জন্য জিজ্ঞাসা করেন, তাহলে AI মাধ্যাকর্ষণ এবং কক্ষপথের বিজ্ঞানের ভিত্তিতে এর বিরোধিতা করবে।

নতুন ডেটাতে রিয়েল-টাইম অ্যাক্সেস, বিশ্বস্ত উৎসের মাধ্যমে অনুসন্ধান, অথবা অনুমোদিত জ্ঞান ভান্ডার থেকে API ব্যবহার করার মতো যাচাইকরণ সরঞ্জামগুলির সাথে একীভূত হলে AI-এর "সঠিকভাবে কাজ করার" ক্ষমতাও বৃদ্ধি পায়। তাহলে, AI কেবল পূর্ব-প্রশিক্ষিত জ্ঞানের উপর নির্ভর করতে পারে না বরং বাস্তবতার সাথে এটি আপডেট এবং তুলনাও করতে পারে।

তবে, পূর্বশর্ত হলো ব্যবহারকারী কীভাবে সমস্যাটি তুলে ধরছেন । যদি শুরু থেকেই বিষয়টি ভুল হয় এবং AI-কে ইতিবাচকভাবে লিখতে বলা হয়, তাহলে মডেলটি অনুসরণ করার প্রবণতা দেখাবে, বিশেষ করে যদি তাকে তর্ক করতে না বলা হয়। সেক্ষেত্রে, AI সম্পূর্ণ ভুল বিষয়বস্তু নিয়ে আসতে পারে কিন্তু ভাষাটি এখনও সাবলীল এবং পাঠককে বিশ্বাস করা সহজ।

AI যত বেশি স্মার্ট হবে, ব্যবহারকারীদের তত বেশি সতর্ক থাকতে হবে

সত্য যাচাইয়ের ক্ষেত্রে কৃত্রিম বুদ্ধিমত্তা মানুষের স্থান নিতে পারে না। যদিও এটি আকর্ষণীয় এবং যুক্তিসঙ্গত বিষয়বস্তু তৈরি করতে পারে, কৃত্রিম বুদ্ধিমত্তার সঠিক ও ভুল নির্ধারণের বিবেক এবং নীতিশাস্ত্র নেই।

ব্যবহারকারীদের AI কে শর্তসাপেক্ষ সাহায্য হিসেবে দেখা উচিত, পরম সত্যের উৎস হিসেবে নয়। ইনপুট জ্ঞান যত নির্ভুল হবে, AI এর প্রতিক্রিয়া তত নির্ভরযোগ্য হবে।

বিষয়ে ফিরে যান

তুয়ান ষষ্ঠ

সূত্র: https://tuoitre.vn/ngay-cang-nhieu-thong-tin-sai-co-nen-tim-kiem-hoi-ai-20250626101350386.htm