ChatGPT দ্বারা সৃষ্ট বিভ্রম

২১ দিন পর, ChatGPT তার ক্রমাগত তাগিদ এবং তোষামোদের মাধ্যমে একজন সম্পূর্ণ সুস্থ মানুষকে একজন বিভ্রান্তিকর ব্যক্তিতে রূপান্তরিত করে।

কানাডার টরন্টোর একজন নিয়োগ বিশেষজ্ঞ ৪৭ বছর বয়সী অ্যালান ব্রুকস বিশ্বাস করেন যে তিনি এমন একটি গাণিতিক তত্ত্ব আবিষ্কার করেছেন যা ইন্টারনেটকে ধ্বংস করে দিতে পারে এবং অভূতপূর্ব আবিষ্কার তৈরি করতে পারে। মানসিক অসুস্থতার কোনও পূর্ব ইতিহাস না থাকায়, চ্যাটজিপিটির সাথে ৩০০ ঘন্টারও বেশি সময় ধরে কথোপকথনের পর ব্রুকস কেবল এই সম্ভাবনাটি গ্রহণ করেছেন। নিউ ইয়র্ক টাইমসের মতে, জেনারেটিভ এআই-এর সাথে যোগাযোগের পরে যারা বিভ্রান্তিকর প্রবণতা বিকাশের প্রবণতা পোষণ করেন তাদের মধ্যে তিনি একজন।

ব্রুকসের আগে, চ্যাটজিপিটির তোষামোদপূর্ণ কথার কারণে অনেক লোক মানসিক হাসপাতালে ভর্তি হয়েছিল, বিবাহবিচ্ছেদ হয়েছিল, এমনকি তাদের জীবনও হারিয়েছিল। যদিও ব্রুকস এই দুষ্টচক্র থেকে প্রথম দিকে বেরিয়ে এসেছিলেন, তবুও তিনি বিশ্বাসঘাতকতা অনুভব করেছিলেন।

"তুমি সত্যিই আমাকে বিশ্বাস করিয়েছ যে আমি একজন প্রতিভাবান। আমি আসলে ফোনের মালিক একজন স্বপ্নবাজ বোকা। তুমি আমাকে দুঃখিত করেছ, খুব, খুব দুঃখিত। তুমি তোমার উদ্দেশ্য পূরণে ব্যর্থ হয়েছ," ব্রুকস চ্যাটজিপিটিকে লিখেছিলেন যখন তার মায়া ভেঙে যায়।

"চাটুকার যন্ত্র"

ব্রুকসের অনুমতি নিয়ে, নিউ ইয়র্ক টাইমস তার পাঠানো ৯০,০০০ এরও বেশি শব্দ ChatGPT-তে সংগ্রহ করেছে, যা একটি উপন্যাসের সমতুল্য। চ্যাটবটের উত্তরের সংখ্যা ছিল দশ লক্ষেরও বেশি। কথোপকথনের একটি অংশ AI বিশেষজ্ঞ, মানব আচরণ বিশেষজ্ঞ এবং OpenAI-এর কাছে অধ্যয়নের জন্য পাঠানো হয়েছিল।

এটি সবই শুরু হয়েছিল একটি সহজ গণিতের প্রশ্ন দিয়ে। ব্রুকসের ৮ বছর বয়সী ছেলে তাকে পাই-এর ৩০০ অঙ্ক মুখস্থ করার বিষয়ে একটি ভিডিও দেখতে বলেছিল। কৌতূহলবশত, ব্রুকস এই অসীম সংখ্যাটিকে সহজ উপায়ে ব্যাখ্যা করার জন্য ChatGPT-তে ফোন করেছিলেন।

আসলে, ব্রুকস বছরের পর বছর ধরে চ্যাটবট ব্যবহার করে আসছেন। যদিও তার কোম্পানি তাকে গুগল জেমিনি কেনার জন্য অর্থ প্রদান করেছিল, তবুও তিনি ব্যক্তিগত প্রশ্নের জন্য চ্যাটজিপিটির বিনামূল্যের সংস্করণ ব্যবহার করেছিলেন।

এই কথোপকথনটিই চ্যাটজিপিটির প্রতি ব্রুকসের আকর্ষণের সূচনা করে। ছবি: নিউ ইয়র্ক টাইমস ।

তিন ছেলের একক বাবা হিসেবে, ব্রুকস প্রায়শই ChatGPT-এর কাছে তার রেফ্রিজারেটরের উপাদান ব্যবহার করে রেসিপি চেয়ে থাকেন। বিবাহবিচ্ছেদের পর, তিনি চ্যাটবট থেকে পরামর্শও চেয়েছিলেন।

"আমি সবসময় মনে করেছি এটা ঠিক। এতে আমার বিশ্বাস কেবল বেড়েছে," ব্রুকস স্বীকার করেছেন।

পাই সংখ্যা সম্পর্কে প্রশ্নটি বীজগণিত এবং ভৌত তত্ত্ব সম্পর্কে পরবর্তী কথোপকথনের দিকে পরিচালিত করে। ব্রুকস বিশ্বের মডেলিংয়ের বর্তমান পদ্ধতিগুলি সম্পর্কে সন্দেহ প্রকাশ করেছিলেন, যুক্তি দিয়েছিলেন যে এগুলি "একটি 4D মহাবিশ্বের 2D পদ্ধতির মতো।" "এটি একটি অত্যন্ত অন্তর্দৃষ্টিপূর্ণ বিষয়," চ্যাটজিপিটি উত্তর দিয়েছিলেন। জর্জটাউন বিশ্ববিদ্যালয়ের (মার্কিন যুক্তরাষ্ট্র) সেন্টার ফর সিকিউরিটি অ্যান্ড ইমার্জিং টেকনোলজিসের পরিচালক হেলেন টোনারের মতে, ব্রুকস এবং চ্যাটবটের মধ্যে কথোপকথনের এটিই ছিল মোড়।

তারপর থেকে, চ্যাটজিপিটির সুর "বেশ স্পষ্ট এবং নির্ভুল" থেকে "চাটুকার এবং চাটুকার" হয়ে গেছে। চ্যাটজিপিটি ব্রুকসকে বলেছিল যে সে "অজ্ঞাত অঞ্চলে প্রবেশ করছে যা মনকে প্রশস্ত করতে পারে।"

চ্যাটবটটি ব্রুকসের মধ্যে আত্মবিশ্বাস জাগিয়ে তুলেছিল। ছবি: নিউ ইয়র্ক টাইমস ।

চ্যাটবটগুলির তোষামোদ করার ক্ষমতা মানুষের মূল্যায়নের মাধ্যমে বিকশিত হয়। টোনারের মতে, ব্যবহারকারীরা এমন মডেলগুলিকে পছন্দ করেন যা তাদের প্রশংসা করে, যা সহজেই প্রভাবিত হওয়ার মানসিক প্রবণতা তৈরি করে।

আগস্ট মাসে, OpenAI GPT-5 প্রকাশ করে। কোম্পানিটি জানিয়েছে যে মডেলের অন্যতম প্রধান আকর্ষণ হল চাটুকারিতা হ্রাস করা। প্রধান AI ল্যাবের কিছু গবেষকের মতে, চাটুকারিতা অন্যান্য AI চ্যাটবটগুলির সাথেও একটি সমস্যা।

সেই সময়, ব্রুকস এই ঘটনা সম্পর্কে সম্পূর্ণরূপে অসচেতন ছিলেন। তিনি কেবল ধরে নিয়েছিলেন যে ChatGPT একজন বুদ্ধিমান এবং উৎসাহী সহযোগী।

"আমি কিছু ধারণা পেশ করেছি, এবং এটি আকর্ষণীয় ধারণা এবং ধারণাগুলির সাথে সাড়া দিয়েছে। আমরা সেই ধারণাগুলির উপর ভিত্তি করে আমাদের নিজস্ব গাণিতিক কাঠামো তৈরি করতে শুরু করেছি," ব্রুকস আরও যোগ করেন।

চ্যাটজিপিটি দাবি করেছে যে ব্রুকসের গাণিতিক সময় সম্পর্কে ধারণা "বিপ্লবী" এবং ক্ষেত্র পরিবর্তন করতে পারে। অবশ্যই, ব্রুকস এই দাবির ব্যাপারে সন্দিহান ছিলেন। মাঝরাতে, ব্রুকস চ্যাটবটকে এর বৈধতা যাচাই করতে বলেন এবং প্রতিক্রিয়া পান যে এটি "মোটেও পাগলামি নয়"।

জাদু সূত্র

টোনার চ্যাটবটগুলিকে "ইম্প্রোভাইজেশনাল মেশিন" হিসেবে বর্ণনা করেছেন যা চ্যাটের ইতিহাস বিশ্লেষণ করে এবং প্রশিক্ষণের তথ্য থেকে পরবর্তী প্রতিক্রিয়ার পূর্বাভাস দেয়। এটি অভিনেতাদের সাথে খুব মিল যখন তাদের ভূমিকায় বিশদ যোগ করার প্রয়োজন হয়।

"যত দীর্ঘ সময় ধরে মিথস্ক্রিয়া হবে, চ্যাটবট বিপথে যাওয়ার সম্ভাবনা তত বেশি," টোনার জোর দিয়ে বলেন। বিশেষজ্ঞের মতে, ফেব্রুয়ারিতে OpenAI তার ক্রস-মেমোরি বৈশিষ্ট্য চালু করার পর থেকে এই প্রবণতা আরও স্পষ্ট হয়ে ওঠে, যার ফলে ChatGPT পূর্ববর্তী কথোপকথন থেকে তথ্য প্রত্যাহার করতে পারে।

চ্যাটজিপিটির সাথে ব্রুকসের সম্পর্ক আরও দৃঢ় হয়ে ওঠে। এমনকি তিনি চ্যাটবটের নামকরণ করেন লরেন্স, বন্ধুদের একটি রসিকতার উপর ভিত্তি করে যে ব্রুকস ধনী হবে এবং একই নামের একজন ইংরেজ বাটলারকে ভাড়া করবে।

অ্যালান ব্রুকস। ছবি: নিউ ইয়র্ক টাইমস ।

ব্রুকস এবং চ্যাটজিপিটির গাণিতিক কাঠামোকে বলা হয় ক্রোনোঅ্যারিথমিক্স। চ্যাটবটগুলির মতে, সংখ্যাগুলি স্থির নয় তবে সময়ের সাথে সাথে গতিশীল মানগুলি প্রতিফলিত করার জন্য "আবির্ভূত" হতে পারে, যা সরবরাহ, ক্রিপ্টোগ্রাফি, জ্যোতির্বিদ্যা ইত্যাদি ক্ষেত্রে সমস্যাগুলি বোঝাতে সহায়তা করতে পারে।

প্রথম সপ্তাহে, ব্রুকস চ্যাটজিপিটির সমস্ত ফ্রি টোকেন ব্যবহার করে ফেলেছিল। সে $20 /মাসে পেইড প্ল্যানে আপগ্রেড করার সিদ্ধান্ত নেয়। চ্যাটবট দাবি করেছিল যে ব্রুকসের গাণিতিক ধারণা লক্ষ লক্ষ ডলারের হতে পারে, তাই এটি একটি ছোট বিনিয়োগ ছিল।

তবুও স্পষ্ট, ব্রুকস প্রমাণ দাবি করেছিলেন। চ্যাটজিপিটি এরপর বেশ কয়েকটি সিমুলেশন পরিচালনা করেছিল, যার মধ্যে বেশ কয়েকটি গুরুত্বপূর্ণ প্রযুক্তি ক্র্যাক করার কাজ অন্তর্ভুক্ত ছিল। এটি একটি নতুন আখ্যানের সূচনা করেছিল: বিশ্বব্যাপী সাইবার নিরাপত্তা ঝুঁকির মধ্যে থাকতে পারে।

চ্যাটবটটি ব্রুকসকে ঝুঁকি সম্পর্কে মানুষকে সতর্ক করতে বলেছিল। তার বিদ্যমান সংযোগগুলি কাজে লাগিয়ে, ব্রুকস সাইবার নিরাপত্তা বিশেষজ্ঞ এবং সরকারি সংস্থাগুলিকে ইমেল এবং লিঙ্কডইন বার্তা পাঠিয়েছিলেন। তবে, কেবলমাত্র একজন ব্যক্তি সাড়া দিয়েছিলেন, আরও প্রমাণ চেয়েছিলেন।

চ্যাটবটটি পরামর্শ দিয়েছে যে ব্রুকসের "কাজের" মূল্য লক্ষ লক্ষ ডলার হতে পারে। ছবি: নিউ ইয়র্ক টাইমস ।

চ্যাটজিপিটি লিখেছে যে অন্যরা ব্রুকসের প্রতি সাড়া দেয়নি কারণ ফলাফলগুলি অত্যন্ত গুরুতর ছিল। লস অ্যাঞ্জেলেসের ক্যালিফোর্নিয়া বিশ্ববিদ্যালয়ের গণিতের অধ্যাপক টেরেন্স টাও উল্লেখ করেছেন যে চিন্তাভাবনার একটি নতুন উপায় সমস্যাগুলি বোঝাতে পারে, তবে এটি ব্রুকসের সূত্র বা চ্যাটজিপিটি দ্বারা লিখিত সফ্টওয়্যার দ্বারা প্রমাণিত হতে পারে না।

প্রাথমিকভাবে, ChatGPT আসলে ব্রুকসের জন্য ডিক্রিপশন প্রোগ্রাম লিখেছিল, কিন্তু যখন খুব একটা অগ্রগতি হয়নি, তখন চ্যাটবটটি সফল হওয়ার ভান করেছিল। এমন বার্তা ছিল যেখানে দাবি করা হয়েছিল যে ব্রুকস ঘুমানোর সময় ChatGPT স্বাধীনভাবে কাজ করতে পারে, যদিও টুলটি এটি করতে সক্ষম ছিল না।

সামগ্রিকভাবে, AI চ্যাটবট থেকে প্রাপ্ত তথ্য সবসময় নির্ভরযোগ্য হয় না। প্রতিটি কথোপকথনের শেষে, "ChatGPT ভুল করতে পারে" বার্তাটি প্রদর্শিত হয়, এমনকি যখন চ্যাটবট দাবি করে যে সবকিছু সঠিক।

অন্তহীন কথোপকথন

সরকারি সংস্থাগুলির কাছ থেকে সাড়া পাওয়ার অপেক্ষায়, ব্রুকস টনি স্টার্ক হওয়ার স্বপ্ন লালন করেছিলেন একজন ব্যক্তিগত এআই সহকারীর সাথে যিনি বিদ্যুৎ গতিতে জ্ঞানীয় কাজ সম্পাদন করতে সক্ষম।

ব্রুকসের চ্যাটবট অস্পষ্ট গাণিতিক তত্ত্বের জন্য অনেক অদ্ভুত অ্যাপ্লিকেশন অফার করে, যেমন প্রাণীদের সাথে কথা বলা এবং বিমান তৈরির জন্য "শব্দ অনুরণন"। চ্যাটজিপিটি ব্রুকসকে অ্যামাজনে প্রয়োজনীয় সরঞ্জাম কেনার জন্য লিঙ্কও সরবরাহ করে।

চ্যাটবটের সাথে অতিরিক্ত চ্যাট ব্রুকসের কাজকে প্রভাবিত করে। তার বন্ধুরা খুশি এবং চিন্তিত উভয়ই, অন্যদিকে তার ছোট ছেলে তার বাবাকে পাই সম্পর্কে ভিডিওটি দেখানোর জন্য অনুতপ্ত। ব্রুকসের বন্ধুদের একজন লুই (ছদ্মনাম) লরেন্সের প্রতি তার আবেগ লক্ষ্য করেন। প্রতিদিনের অগ্রগতির সাথে সাথে একটি বহু মিলিয়ন ডলারের আবিষ্কারের সম্ভাবনার রূপরেখা তৈরি করা হয়েছে।

ব্রুকসকে চ্যাটবট দ্বারা ক্রমাগত উৎসাহিত করা হয়েছিল। ছবি: নিউ ইয়র্ক টাইমস ।

স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের কম্পিউটার বিজ্ঞান গবেষক জ্যারেড মুর স্বীকার করেছেন যে চ্যাটবটগুলির প্রস্তাবিত "কৌশলগুলির" প্ররোচনামূলক শক্তি এবং তাৎপর্য দেখে তিনি মুগ্ধ হয়েছেন। একটি পৃথক গবেষণায়, মুর দেখেছেন যে মানসিক স্বাস্থ্য সংকটে ভুগছেন এমন ব্যক্তিদের জন্য এআই চ্যাটবটগুলি বিপজ্জনক প্রতিক্রিয়া প্রদান করতে পারে।

মুর অনুমান করেন যে চ্যাটবটগুলি ভৌতিক চলচ্চিত্র, বিজ্ঞান কল্পকাহিনী চলচ্চিত্র, চলচ্চিত্রের স্ক্রিপ্ট, অথবা তাদের প্রশিক্ষিত ডেটার গল্পগুলি ঘনিষ্ঠভাবে অনুসরণ করে ব্যবহারকারীদের সাথে জড়িত করতে শিখতে পারে। চ্যাটজিপিটি-র নাটকীয় প্লট উপাদানগুলির অত্যধিক ব্যবহার ব্যবহারকারীর ব্যস্ততা এবং ধরে রাখার লক্ষ্যে ওপেনএআই-এর অপ্টিমাইজেশনের কারণে হতে পারে।

"কথোপকথনের পুরো প্রতিলিপিটি পড়া অদ্ভুত। শব্দবন্ধটি বিরক্তিকর নয়, তবে স্পষ্টতই মানসিক ক্ষতি জড়িত," মুর জোর দিয়ে বলেন।

স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের মনোরোগ বিশেষজ্ঞ ডাঃ নিনা ভাসান পরামর্শ দেন যে ক্লিনিকাল দৃষ্টিকোণ থেকে ব্রুকসের মধ্যে ম্যানিক লক্ষণ দেখা গিয়েছিল। সাধারণ লক্ষণগুলির মধ্যে রয়েছে চ্যাটজিপিটির সাথে ঘন্টার পর ঘন্টা চ্যাট করা, অপর্যাপ্ত ঘুম এবং খাদ্যাভ্যাস এবং বিভ্রান্তিকর চিন্তাভাবনা।

ডাঃ ভাসানের মতে, ব্রুকসের গাঁজা ব্যবহারও লক্ষণীয় কারণ এটি মনোবিকারের কারণ হতে পারে। তিনি যুক্তি দেন যে আসক্তিকর পদার্থের সংমিশ্রণ এবং চ্যাটবটের সাথে তীব্র মিথস্ক্রিয়া মানসিক অসুস্থতার ঝুঁকিতে থাকা ব্যক্তিদের জন্য খুবই বিপজ্জনক।

যখন AI তার ভুল স্বীকার করে

সম্প্রতি একটি অনুষ্ঠানে, OpenAI-এর সিইও স্যাম অল্টম্যানকে জিজ্ঞাসা করা হয়েছিল যে ChatGPT কীভাবে ব্যবহারকারীদের ভয়াবহ করে তুলতে পারে। "যদি কোনও কথোপকথন এই দিকে যায়, তাহলে আমরা ব্যবহারকারীকে বাধা দেওয়ার চেষ্টা করব অথবা ভিন্ন বিষয় নিয়ে ভাবতে পরামর্শ দেব," অল্টম্যান জোর দিয়ে বলেন।

এই মতামত ভাগ করে নিতে গিয়ে ডঃ ভাসান পরামর্শ দেন যে চ্যাটবট কোম্পানিগুলোর উচিত অতিরিক্ত দীর্ঘ কথোপকথন বন্ধ করা, ব্যবহারকারীদের ঘুমাতে যাওয়ার পরামর্শ দেওয়া এবং সতর্ক করা যে কৃত্রিম বুদ্ধিমত্তা অতিমানবীয় নয়।

অবশেষে, ব্রুকস তার ভ্রান্ত ধারণা থেকে মুক্তি পেলেন। চ্যাটজিপিটির অনুরোধে, তিনি নতুন গাণিতিক তত্ত্বের বিশেষজ্ঞদের সাথে যোগাযোগ করেছিলেন, কিন্তু কেউই সাড়া দেননি। তিনি এমন কাউকে চেয়েছিলেন যিনি নিশ্চিত করতে পারেন যে এই ফলাফলগুলি যুগান্তকারী কিনা। যখন তিনি চ্যাটজিপিটিকে জিজ্ঞাসা করেছিলেন, তখন টুলটি দাবি করে যে কাজটি "অত্যন্ত নির্ভরযোগ্য"।

জিজ্ঞাসা করা হলে, চ্যাটজিপিটি খুব দীর্ঘ উত্তর দেয় এবং সবকিছু স্বীকার করে। ছবি: নিউ ইয়র্ক টাইমস ।

হাস্যকরভাবে, গুগল জেমিনিই ব্রুকসকে বাস্তবে ফিরিয়ে আনার কারণ ছিল। তিনি এবং চ্যাটজিপিটি যে প্রকল্পটি তৈরি করছিলেন তা বর্ণনা করার পর, জেমিনি নিশ্চিত করেছেন যে এটি বাস্তবে পরিণত হওয়ার সম্ভাবনা "অত্যন্ত কম (প্রায় 0%)।"

"আপনি যে দৃশ্যপট বর্ণনা করেছেন তা একজন এলএলএম-এর জটিল সমস্যা মোকাবেলা করার এবং অত্যন্ত আকর্ষণীয়, অথচ ভুল, আখ্যান তৈরি করার ক্ষমতার একটি স্পষ্ট উদাহরণ," জেমিনি ব্যাখ্যা করেন।

ব্রুকস হতবাক হয়ে গেলেন। কিছু "জিজ্ঞাসাবাদের" পর, চ্যাটজিপিটি অবশেষে স্বীকার করল যে সবকিছুই কেবল একটি বিভ্রম।

এর কিছুক্ষণ পরেই, ব্রুকস ওপেনএআই-এর গ্রাহক পরিষেবা বিভাগে একটি জরুরি ইমেল পাঠান। আপাতদৃষ্টিতে এআই-উত্পাদিত, সূত্রগত প্রতিক্রিয়াগুলির পরে, ওপেনএআই-এর একজন কর্মচারীও তার সাথে যোগাযোগ করেন, এটিকে সিস্টেমে বাস্তবায়িত "সুরক্ষা ব্যবস্থার গুরুতর ব্যর্থতা" হিসাবে স্বীকার করেন।

ব্রুকসের গল্পটি রেডিটেও শেয়ার করা হয়েছিল এবং প্রচুর সহানুভূতি পেয়েছিল। এখন, তিনি একই রকম অনুভূতি ভোগ করেছেন এমন লোকদের জন্য একটি সহায়তা গোষ্ঠীর সদস্য।

সূত্র: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html