AI এর অন্ধকার দিক থেকে সাবধান থাকুন

এর অনস্বীকার্য সুবিধা থাকা সত্ত্বেও, কৃত্রিম বুদ্ধিমত্তা (এআই) জরুরি নৈতিক প্রশ্ন উত্থাপন করে। উল্লেখযোগ্যভাবে, বৈজ্ঞানিক গবেষণায়, অনেক পরিসংখ্যান দেখানো হয়েছে যে এআই অপব্যবহার অপ্রত্যাশিত পক্ষপাতের দিকে পরিচালিত করতে পারে।

কৃত্রিম বুদ্ধিমত্তা (এআই) সংক্রান্ত খসড়া আইনের নিখুঁত রূপরেখা তৈরির জন্য ধারণা প্রদানের জন্য কর্মশালা। (ছবি: হুং এনগুইন)

সাম্প্রতিক সময়ে পক্ষপাত এবং নথিপত্র জাল করার ঘটনাগুলি পণ্ডিতদের গবেষণায় কৃত্রিম বুদ্ধিমত্তার সম্পৃক্ততার যথাযথ স্তর পুনর্বিবেচনা করতে বাধ্য করেছে।

সম্প্রতি, তার ব্যক্তিগত পৃষ্ঠায়, অধ্যাপক, ভাষাবিজ্ঞানের ডক্টর নগুয়েন ভ্যান হিপ একটি গল্প শেয়ার করেছেন যা পাঠকদের হতবাক করে দিয়েছে। তিনি আবিষ্কার করেছেন যে একজন বন্ধুর পাঠানো তথ্যে AI তার নথি জাল করেছে। তিনি দুর্ঘটনাক্রমে আবিষ্কার করেছেন যে সহযোগী অধ্যাপক, ডক্টর অফ সায়েন্স ট্রান ভ্যান কো-এর নিবন্ধটিও AI দ্বারা জাল করা হয়েছিল।

AI মানব জীবনের একটি অপরিহার্য অংশ হয়ে উঠেছে, তবে বিশেষজ্ঞরা সর্বদা জোর দিয়ে বলেন যে আমাদের AI কে কেবল একটি সহায়ক হাতিয়ার হিসেবে দেখা উচিত। AI ব্যবহারকারীদের সর্বদা সতর্ক এবং জ্ঞানী হতে হবে তথ্য প্রক্রিয়াকরণ এবং AI এর সাথে "সহযোগিতা" করার পরে প্রাপ্ত ফলাফল মূল্যায়ন করার জন্য। বিশেষ করে বৈজ্ঞানিক গবেষণায়, অনেক গবেষণায় দেখা গেছে যে সবচেয়ে বড় সমস্যা যা সতর্ক থাকা প্রয়োজন তা হল তথ্য এবং মডেলগুলিতে পক্ষপাত। AI পক্ষপাতদুষ্ট হতে পারে, বিশ্লেষণের ফলাফল বিকৃত করতে পারে, পক্ষপাত বা বৈষম্য তৈরি করতে পারে এবং ভালভাবে নিয়ন্ত্রণ না করা হলে তথ্য হেরফের করতে পারে।

বিশেষ করে, সামাজিক বিজ্ঞান গবেষণায় AI ব্যবহারের ক্ষেত্রে আরও বেশি সতর্কতা প্রয়োজন। যেহেতু দর্শন, ভাষাতত্ত্ব, নৃতাত্ত্বিকতা, ইতিহাস ইত্যাদির মতো সামাজিক বিজ্ঞানের ক্ষেত্রগুলি মানব আচরণ, সংস্কৃতি এবং আচরণকে গবেষণার বিষয় হিসেবে গ্রহণ করে, তাই তথ্যগুলি প্রায়শই ভিয়েতনামী সামাজিক-সাংস্কৃতিক প্রেক্ষাপটের সাথে ঘনিষ্ঠভাবে জড়িত, গভীরতা এবং নির্দিষ্টতার সাথে। যদি AI প্রশিক্ষণের তথ্য ঐতিহাসিক কুসংস্কার প্রতিফলিত করে, তাহলে যে বিপদ হতে পারে তা হল AI এমন সিদ্ধান্তে পৌঁছাতে পারে যা লিঙ্গ, শ্রেণী, জাতি বা ভৌগোলিক অঞ্চলের মধ্যে বৈষম্যের সমস্যাগুলিকে আরও বাড়িয়ে তোলে। যখন AI ব্যবহার করা হয় তখন মানুষের আচরণ বিশ্লেষণ করতে, উন্মুক্ত জরিপে সাড়া দিতে বা মিডিয়া সামগ্রীতে অংশগ্রহণ করতে ঝুঁকি আরও বেশি।

কিছু সামাজিক বিজ্ঞান বিশেষজ্ঞের মতে, বর্তমানে AI-এর কপিরাইটযুক্ত বা অর্থপ্রদানকারী ডেটা উৎস অ্যাক্সেস করতে অসুবিধা হচ্ছে, যার ফলে তথ্য অসম্পূর্ণভাবে আপডেট করা হচ্ছে।

বিশ্বাসযোগ্য গল্প তৈরির জন্য নথি তৈরির ঘটনাটি প্রায়শই কম জনপ্রিয় বিষয়গুলিতে, ভিয়েতনামীর মতো সীমিত ডেটা উৎস সহ ভাষাগুলিতে ঘটে এবং ব্যবহারকারীদের সতর্ক করার জন্য সতর্ক করা উচিত। সাধারণভাবে AI সিস্টেমগুলি বর্তমানে সামাজিক এবং সাংস্কৃতিক প্রেক্ষাপট বোঝার ক্ষেত্রে খুবই সীমিত, তাই অস্পষ্ট, রূপক-সমৃদ্ধ সামাজিক বিজ্ঞান জ্ঞান ব্যাখ্যা করার ক্ষেত্রে তাদের সহায়তা আসলে নির্ভরযোগ্য নয়।

যদিও এটি বৈজ্ঞানিক গবেষণায় প্রচুর সম্ভাবনা নিয়ে আসে, তবুও কৃত্রিম বুদ্ধিমত্তার প্রয়োগ অত্যন্ত সতর্কতার সাথে করা উচিত, এর সীমা রয়েছে এবং সর্বদা গবেষকের সমালোচনামূলক চিন্তাভাবনার ক্ষমতার সাথে তাল মিলিয়ে চলতে হবে।

এটা দেখা যায় যে, যদিও এটি বৈজ্ঞানিক গবেষণায় প্রচুর সম্ভাবনা বয়ে আনে, তবুও AI-এর প্রয়োগ অত্যন্ত সতর্ক, সীমিত এবং সর্বদা গবেষকের সমালোচনামূলক ক্ষমতার সাথে থাকা প্রয়োজন। AI ব্যবহারকারী বিষয়ককে AI ব্যবহারের ক্ষেত্রে এই সীমাবদ্ধতাগুলি স্পষ্টভাবে চিহ্নিত করতে হবে, যাতে নিশ্চিত করা যায় যে AI বিজ্ঞানের মূল মূল্যবোধগুলিকে পরিবর্তন না করে। বৈজ্ঞানিক গবেষণার অখণ্ডতা রক্ষা করার জন্য, বিজ্ঞানীদের ভূমিকা এবং দায়িত্বকে একটি নতুন স্তরে উন্নীত করতে হবে। এছাড়াও, ভিয়েতনামী সংস্কৃতি, ঐতিহ্য এবং সামাজিক রীতিনীতির প্রেক্ষাপটে একটি আইনত বাধ্যতামূলক AI নীতিগত কাঠামো প্রস্তাব করা প্রয়োজন।

নিরাপদ ও দায়িত্বশীল AI সিস্টেমের গবেষণা ও উন্নয়নকে উৎসাহিত করার জন্য, বিজ্ঞান ও প্রযুক্তি মন্ত্রণালয় কর্তৃক প্রস্তাবিত নেতিবাচক প্রভাব সীমিত করার এবং ঝুঁকি নিয়ন্ত্রণের জন্য আমাদের নয়টি নীতির একটি ব্যবস্থা রয়েছে, যা ডেটা সুরক্ষার পাশাপাশি মানবাধিকার ও মর্যাদার প্রতি শ্রদ্ধা এবং AI ব্যবহারকারীদের জবাবদিহিতার উপর জোর দেয়। বিশেষ করে বৈজ্ঞানিক গবেষণায়, রাজ্য অধ্যাপক পরিষদ 2023 সালে অফিসিয়াল ডিসপ্যাচ নং 25/HDGSNN জারি করে, যাতে শিল্প অধ্যাপক শিরোনাম কাউন্সিল এবং বৈজ্ঞানিক কাজের মান মূল্যায়নের জন্য সুবিধাগুলিকে AI প্রযুক্তি ব্যবহার করে বা এর দ্বারা সহায়তা করা হয় এমন কাজগুলি সনাক্তকরণ এবং মূল্যায়নের দিকে বিশেষ মনোযোগ দেওয়ার জন্য অনুরোধ করা হয়। এই প্রয়োজনীয়তাগুলির লক্ষ্য হল AI ব্যবহার করে গবেষণার ফলাফলগুলি এখনও বৈজ্ঞানিক মান পূরণ করে, বৈজ্ঞানিক গবেষণা এবং প্রকাশনায় AI এর অপব্যবহার রোধ করা।

আগামী সময়ে, যখন কৃত্রিম বুদ্ধিমত্তা সংক্রান্ত আইন জারি করা হবে, যেখানে কৃত্রিম বুদ্ধিমত্তা ব্যবহারের ক্ষেত্রে নীতিশাস্ত্র এবং দায়িত্ব সম্পর্কিত কঠোর নিয়মকানুন থাকবে, তখন এটি কৃত্রিম বুদ্ধিমত্তা উন্নয়নের জন্য একটি সুস্থ পরিবেশ তৈরিতে অবদান রাখবে, গবেষণা কাজে বিজ্ঞানীদের আরও সক্রিয় এবং দায়িত্বশীল সহায়তা প্রদান করবে।

নৃত্য উৎসব

সূত্র: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html