কৃত্রিম বুদ্ধিমত্তা: হুইস্পার টুলের অন্ধকার দিক

শ্রবণ প্রতিবন্ধীদের জন্য ক্যাপশন তৈরি করার জন্য হুইস্পার ব্যবহার করাও সমস্যাযুক্ত, কারণ লক্ষ লক্ষ শব্দের মধ্যে লুকিয়ে থাকা ভুল তথ্য সনাক্ত করার কোনও উপায় তাদের নেই।

চিত্রের ছবি। (সূত্র: ভয়েসগেইন)

কৃত্রিম বুদ্ধিমত্তা (এআই) দৈনন্দিন জীবনের একটি অপরিহার্য অংশ হয়ে ওঠার যুগে, ওপেনএআই দ্বারা তৈরি হুইস্পার নামক একটি টুল প্রায় "মানুষের মতো নির্ভুলতার" সাথে স্বয়ংক্রিয়ভাবে নোট নেওয়ার ক্ষমতার জন্য ব্যাপক মনোযোগ আকর্ষণ করেছে।

তবে, প্রশংসার পেছনে, হুইস্পার একটি গুরুতর ত্রুটির জন্য তীব্র সমালোচনার সম্মুখীন হচ্ছে: এর অটো-ফিকশন ক্ষমতা, অর্থাৎ, এমন টেক্সট বা এমনকি বিবৃতি তৈরি করা যা কেউ কখনও লেখেনি।

সফটওয়্যার ইঞ্জিনিয়ার এবং গবেষকদের মতে, কাল্পনিক বিবরণ কেবল বিভ্রান্তির সৃষ্টি করে না, বরং বর্ণবাদী মন্তব্য, হিংসাত্মক ভাষা এবং অবাস্তব চিকিৎসাও থাকতে পারে।

যদিও OpenAI সতর্ক করে দিয়েছে যে "উচ্চ ঝুঁকিপূর্ণ এলাকায়" এই টুলটি ব্যবহার করা উচিত নয়, তবুও অনেক চিকিৎসা প্রতিষ্ঠান এখনও ডাক্তার-রোগীর পরামর্শ রেকর্ড করার জন্য সক্রিয়ভাবে Whisper গ্রহণ করছে।

প্রকৃতপক্ষে, সাম্প্রতিক এক গবেষণায় দেখা গেছে যে জনসভার একটি জরিপে ৮০% এরও বেশি অডিও রেকর্ডিংয়ে এই কাল্পনিক বিবরণ রয়েছে। একজন মেশিন লার্নিং ইঞ্জিনিয়ার আরও উল্লেখ করেছেন যে ১০০ ঘন্টারও বেশি সময় ধরে হুইস্পার ট্রান্সক্রিপ্ট বিশ্লেষণে দেখা গেছে যে এর মধ্যে প্রায় ৫০% গুরুতর ত্রুটি রয়েছে, যা প্রযুক্তির নির্ভরযোগ্যতা নিয়ে উদ্বেগ প্রকাশ করে, যা ক্রমবর্ধমানভাবে ব্যবহৃত হচ্ছে।

বিশেষজ্ঞরা সতর্ক করে বলেছেন যে ভুলগুলি "সত্যিই গুরুতর পরিণতি" ডেকে আনতে পারে, বিশেষ করে চিকিৎসা ক্ষেত্রে।

হোয়াইট হাউস অফিস অফ সায়েন্স অ্যান্ড টেকনোলজি পলিসির প্রাক্তন পরিচালক অ্যালোন্ড্রা নেলসন জোর দিয়ে বলেছেন যে কেউই ভুল রোগ নির্ণয় চায় না এবং এই প্রযুক্তির প্রয়োগে উচ্চতর মান বজায় রাখার আহ্বান জানিয়েছেন।

শ্রবণ প্রতিবন্ধীদের জন্য ক্যাপশন তৈরি করার জন্য হুইস্পার ব্যবহার করাও সমস্যাযুক্ত, কারণ লক্ষ লক্ষ শব্দের মধ্যে লুকিয়ে থাকা ভুল তথ্য সনাক্ত করার কোনও উপায় তাদের নেই।

কাল্পনিক লেখার উত্থান অনেক বিশেষজ্ঞ, কর্মী এবং প্রাক্তন ওপেনএআই কর্মচারীদেরকে এআই নিয়ন্ত্রণের বিষয়টি বিবেচনা করার জন্য ফেডারেল সরকারের প্রতি আহ্বান জানিয়েছে।

সান ফ্রান্সিসকোর একজন গবেষণা প্রকৌশলী উইলিয়াম সন্ডার্স বিশ্বাস করেন যে ওপেনএআই যদি এটি মোকাবেলাকে অগ্রাধিকার দেয় তবে এই সমস্যাটি সম্পূর্ণরূপে সমাধানযোগ্য।

ওপেনএআই স্বীকার করেছে যে তারা কাল্পনিক বিবরণ কমানোর জন্য ক্রমাগত কাজ করছে এবং গবেষণা সম্প্রদায়ের প্রতিক্রিয়ার প্রশংসা করে।

তবে, অনেক প্রকৌশলী এখনও দাবি করেন যে তারা Whisper./ এর মতো উচ্চমানের কল্পকাহিনীর সাথে আর কোনও AI নোট-টেকিং টুল দেখেননি।

(টিটিএক্সভিএন/ভিয়েতনাম+)

সূত্র: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp