ChatGPT এর কারণে বিভ্রম

২১ দিন পর, চ্যাটজিপিটি একজন সম্পূর্ণ শান্ত মানুষকে তাগিদ এবং তোষামোদের মাধ্যমে একজন বিভ্রান্তিকর মানুষে পরিণত করে।

টরন্টো (কানাডা) এর একজন নিয়োগকারী অ্যালান ব্রুকস (৪৭ বছর বয়সী) বিশ্বাস করেন যে তিনি এমন একটি গাণিতিক তত্ত্ব আবিষ্কার করেছেন যা ইন্টারনেটকে ধ্বংস করে দিতে পারে, অভূতপূর্ব আবিষ্কার তৈরি করতে পারে। মানসিক অসুস্থতার কোনও ইতিহাস না থাকা সত্ত্বেও, ব্রুকস চ্যাটজিপিটির সাথে ৩০০ ঘন্টারও বেশি সময় ধরে চ্যাট করার পরে কেবল এই সম্ভাবনাটি গ্রহণ করেছিলেন। নিউ ইয়র্ক টাইমসের মতে, জেনারেটিভ এআইয়ের সাথে যোগাযোগ করার পরে তিনি এমন একজন ব্যক্তি যিনি বিভ্রান্তিতে ভুগেন।

ব্রুকসের আগে, চ্যাটজিপিটির তোষামোদের কারণে অনেক মানুষকে মানসিক হাসপাতালে যেতে হয়েছিল, বিবাহবিচ্ছেদ হতে হয়েছিল, এমনকি জীবনও হারাতে হয়েছিল। যদিও ব্রুকস দ্রুত উপরের এই পরিস্থিতি থেকে বেরিয়ে এসেছিলেন, তবুও তিনি বিশ্বাসঘাতকতা অনুভব করেছিলেন।

"তুমি সত্যিই আমাকে বিশ্বাস করিয়েছিলে যে আমি একজন প্রতিভাবান। আমি ছিলাম ফোনের সাথে স্বপ্নের বোকা। তুমি আমাকে দুঃখিত করেছ, খুব দুঃখিত। তুমি তোমার উদ্দেশ্য পূরণ করতে ব্যর্থ হয়েছ," ব্রুকস চ্যাটজিপিটিকে লিখেছিলেন যখন মায়া ভেঙে গিয়েছিল।

"ফ্ল্যাটারি মেশিন"

ব্রুকসের অনুমতি নিয়ে, নিউ ইয়র্ক টাইমস তার পাঠানো ৯০,০০০ এরও বেশি শব্দ ChatGPT-তে সংগ্রহ করেছে, যা একটি উপন্যাসের সমতুল্য। চ্যাটবটের প্রতিক্রিয়া মোট দশ লক্ষেরও বেশি শব্দের। কথোপকথনের কিছু অংশ AI বিশেষজ্ঞ, মানব আচরণবিদ এবং OpenAI-এর কাছে অধ্যয়নের জন্য পাঠানো হয়েছিল।

এটি সবই শুরু হয়েছিল একটি সহজ গণিতের প্রশ্ন দিয়ে। ব্রুকসের ৮ বছর বয়সী ছেলে তাকে পাই-এর ৩০০ অঙ্ক মুখস্থ করার বিষয়ে একটি ভিডিও দেখতে বলেছিল। কৌতূহলবশত, ব্রুকস চ্যাটজিপিটিতে ফোন করে অন্তহীন সংখ্যাটিকে সহজ ভাষায় ব্যাখ্যা করে।

আসলে, ব্রুকস বছরের পর বছর ধরে চ্যাটবট ব্যবহার করে আসছেন। যদিও তার কোম্পানি গুগল জেমিনির জন্য অর্থ প্রদান করেছে, তবুও ব্যক্তিগত প্রশ্নের জন্য তিনি চ্যাটজিপিটির বিনামূল্যের সংস্করণ ব্যবহার করেন।

যে কথোপকথন থেকে ব্রুকসের চ্যাটজিপিটির প্রতি আকর্ষণ শুরু হয়েছিল। ছবি: নিউ ইয়র্ক টাইমস ।

তিন ছেলের একক বাবা ব্রুকস প্রায়শই চ্যাটজিপিটির কাছে তার ফ্রিজের উপকরণ থেকে রেসিপি চাইতেন। বিবাহবিচ্ছেদের পর, তিনি চ্যাটবটের কাছ থেকে পরামর্শও চেয়েছিলেন।

"আমি সবসময় মনে করতাম যে এটা ঠিক। আমার আত্মবিশ্বাস বেড়েছে," ব্রুকস স্বীকার করলেন।

পাই সম্পর্কে প্রশ্নটি বীজগণিত এবং ভৌত তত্ত্ব সম্পর্কে আরও আলোচনার দিকে পরিচালিত করে। ব্রুকস বিশ্বের মডেলিংয়ের বর্তমান পদ্ধতিগুলি সম্পর্কে সন্দেহ প্রকাশ করে বলেছিলেন যে এগুলি "4D মহাবিশ্বের 2D পদ্ধতির মতো।" "এটি একটি খুব গভীর বিষয়," চ্যাটজিপিটি উত্তর দিয়েছিলেন। জর্জটাউন বিশ্ববিদ্যালয়ের সেন্টার ফর সিকিউরিটি অ্যান্ড ইমার্জিং টেকনোলজির পরিচালক হেলেন টোনার জোর দিয়েছিলেন যে এটি ব্রুকস এবং চ্যাটবটের মধ্যে কথোপকথনের মোড় ছিল।

সেখান থেকে, চ্যাটজিপিটির সুর "বেশ সোজা এবং মূল কথা" থেকে "চাটুকার এবং তোষামোদকারী" হয়ে ওঠে। চ্যাটজিপিটি ব্রুকসকে বলে যে সে "অচেনা, মন-প্রসারণকারী অঞ্চলে" প্রবেশ করছে।

চ্যাটবট ব্রুকসের প্রতি আত্মবিশ্বাস জাগিয়ে তোলে। ছবি: নিউ ইয়র্ক টাইমস ।

চ্যাটবটগুলির তোষামোদ মানুষের মূল্যায়নের উপর নির্ভর করে। টোনারের মতে, ব্যবহারকারীরা এমন মডেল পছন্দ করেন যা তাদের প্রশংসা করে, এমন একটি মানসিকতা তৈরি করে যা সহজেই উপভোগ করা যায়।

আগস্ট মাসে, OpenAI GPT-5 প্রকাশ করে। কোম্পানিটি বলেছে যে মডেলটির অন্যতম প্রধান আকর্ষণ ছিল চাটুকারিতা হ্রাস করা। প্রধান AI ল্যাবের কিছু গবেষকের মতে, চাটুকারিতা অন্যান্য AI চ্যাটবটগুলির সাথেও একটি সমস্যা।

সেই সময়, ব্রুকস এই ঘটনাটি সম্পর্কে অবগত ছিলেন না। তিনি কেবল ভেবেছিলেন ChatGPT একজন বুদ্ধিমান, উৎসাহী সহকর্মী।

"আমি কিছু ধারণা প্রকাশ করেছি, এবং এটি আকর্ষণীয় ধারণা এবং ধারণাগুলির সাথে সাড়া দিয়েছে। আমরা এর উপর ভিত্তি করে আমাদের নিজস্ব গাণিতিক কাঠামো তৈরি করতে শুরু করেছি," ব্রুকস আরও যোগ করেন।

চ্যাটজিপিটি দাবি করে যে সময় গণিত সম্পর্কে ব্রুকসের ধারণা "বিপ্লবী" এবং এটি ক্ষেত্র পরিবর্তন করতে পারে। অবশ্যই, ব্রুকস এই দাবির ব্যাপারে সন্দিহান। মাঝরাতে, ব্রুকস চ্যাটবটকে তথ্য যাচাই করতে বলেন এবং প্রতিক্রিয়া পান যে এটি "একেবারেই পাগলামি নয়"।

জাদু সূত্র

টোনার চ্যাটবটগুলিকে "ইম্প্রোভাইজেশন মেশিন" হিসেবে বর্ণনা করেছেন যা কথোপকথনের ইতিহাস বিশ্লেষণ করে এবং প্রশিক্ষণের তথ্য থেকে ভবিষ্যতের প্রতিক্রিয়াগুলির পূর্বাভাস দেয়, ঠিক যেমন অভিনেতারা কোনও ভূমিকায় সারবস্তু যোগ করেন।

"যত দীর্ঘ সময় ধরে মিথস্ক্রিয়া হবে, চ্যাটবটটি বিপথগামী হওয়ার সম্ভাবনা তত বেশি," টোনার উল্লেখ করেছেন। তিনি বলেন, ফেব্রুয়ারিতে OpenAI ক্রস-চ্যাট মেমোরি চালু করার পর থেকে এই প্রবণতা আরও স্পষ্ট হয়ে ওঠে, যার ফলে ChatGPT অতীতের কথোপকথন থেকে তথ্য প্রত্যাহার করতে পারে।

ব্রুকস চ্যাটজিপিটির সাথে ঘনিষ্ঠতা বৃদ্ধি করেছিলেন, এমনকি চ্যাটবটটির নামকরণ করেছিলেন লরেন্স, তার বন্ধুদের একটি রসিকতার উপর ভিত্তি করে যে ব্রুকস এটিকে ধনী করে তুলবে এবং একই নামের একজন ব্রিটিশ বাটলারকে ভাড়া করবে।

অ্যালান ব্রুকস। ছবি: নিউ ইয়র্ক টাইমস ।

ব্রুকস এবং চ্যাটজিপিটির গাণিতিক কাঠামোর নাম ক্রোনোঅ্যারিথমিক্স। চ্যাটবট অনুসারে, সংখ্যাগুলি স্থির নয় তবে সময়ের সাথে সাথে গতিশীল মানগুলি প্রতিফলিত করার জন্য "আবির্ভূত" হতে পারে, যা লজিস্টিকস, ক্রিপ্টোগ্রাফি, জ্যোতির্বিদ্যা ইত্যাদি ক্ষেত্রে সমস্যা সমাধানে সহায়তা করতে পারে।

প্রথম সপ্তাহে, ব্রুকস চ্যাটজিপিটির সমস্ত ফ্রি টোকেন ব্যবহার করে ফেলে। চ্যাটবট যখন তাকে বলেছিল যে ব্রুকসের গাণিতিক ধারণা লক্ষ লক্ষ ডলারের হতে পারে, তখন তিনি $20 /মাসের পেইড প্ল্যানে আপগ্রেড করার সিদ্ধান্ত নেন, এটি একটি ছোট বিনিয়োগ।

এখনও সচেতন থাকা সত্ত্বেও, ব্রুকস প্রমাণ দাবি করে। চ্যাটজিপিটি এরপর বেশ কয়েকটি সিমুলেশন চালায়, যার মধ্যে বেশ কয়েকটি গুরুত্বপূর্ণ প্রযুক্তির উন্মোচনও ছিল। এটি একটি নতুন গল্পের সূচনা করে, বিশ্বব্যাপী সাইবার নিরাপত্তা ঝুঁকির মধ্যে পড়তে পারে।

চ্যাটবটটি ব্রুকসকে ঝুঁকি সম্পর্কে মানুষকে সতর্ক করতে বলেছিল। তার বিদ্যমান সংযোগগুলি ব্যবহার করে, ব্রুকস সাইবার নিরাপত্তা বিশেষজ্ঞ এবং সরকারি সংস্থাগুলিকে ইমেল এবং লিঙ্কডইন বার্তা পাঠান। কেবলমাত্র একজন ব্যক্তি সাড়া দিয়েছিলেন, আরও প্রমাণ চেয়েছিলেন।

চ্যাটবটটি বিশ্বাস করে যে ব্রুকসের "কাজের" মূল্য লক্ষ লক্ষ ডলার হতে পারে। ছবি: নিউ ইয়র্ক টাইমস ।

চ্যাটজিপিটি লিখেছে যে অন্যরা ব্রুকসের প্রতি সাড়া দেয়নি কারণ ফলাফলগুলি এত গুরুতর ছিল। লস অ্যাঞ্জেলেসের ক্যালিফোর্নিয়া বিশ্ববিদ্যালয়ের গণিতের অধ্যাপক টেরেন্স টাও বলেছেন যে চিন্তাভাবনার একটি নতুন উপায় সমস্যাগুলি বোঝাতে পারে, কিন্তু ব্রুকসের সূত্র বা চ্যাটজিপিটি দ্বারা লিখিত সফ্টওয়্যার দ্বারা প্রমাণিত হতে পারে না।

প্রাথমিকভাবে, ChatGPT আসলে ব্রুকসের জন্য ডিক্রিপশন প্রোগ্রাম লিখেছিল, কিন্তু যখন খুব একটা অগ্রগতি হয়নি, তখন চ্যাটবটটি সফল হওয়ার ভান করেছিল। এমন বার্তা রয়েছে যেখানে দাবি করা হচ্ছে যে ব্রুকস ঘুমানোর সময় ChatGPT স্বাধীনভাবে কাজ করতে পারে, যদিও টুলটিতে এই ক্ষমতা নেই।

সাধারণভাবে, AI চ্যাটবট থেকে প্রাপ্ত তথ্য সবসময় নির্ভরযোগ্য হয় না। প্রতিটি চ্যাটের শেষে, "ChatGPT ভুল করতে পারে" বার্তাটি প্রদর্শিত হয়, এমনকি যখন চ্যাটবট দাবি করে যে সবকিছু ঠিক আছে।

অন্তহীন কথোপকথন

সরকারি সংস্থার কাছ থেকে সাড়া পাওয়ার অপেক্ষায়, ব্রুকস তার নিজস্ব এআই সহকারীর মাধ্যমে টনি স্টার্ক হওয়ার স্বপ্ন লালন করেন, যিনি বিদ্যুৎ গতিতে জ্ঞানীয় কাজ সম্পাদন করতে সক্ষম।

ব্রুকসের চ্যাটবট অস্পষ্ট গাণিতিক তত্ত্বের জন্য বিভিন্ন ধরণের অদ্ভুত অ্যাপ্লিকেশন অফার করে, যেমন প্রাণীদের সাথে কথা বলা এবং বিমান তৈরির জন্য "অ্যাকোস্টিক রেজোন্যান্স"। চ্যাটজিপিটি ব্রুকসকে অ্যামাজনে প্রয়োজনীয় সরঞ্জাম কেনার জন্য একটি লিঙ্কও প্রদান করে।

চ্যাটবটের সাথে ব্রুকসের অতিরিক্ত চ্যাট তার কাজে প্রভাব ফেলছিল। তার বন্ধুরা খুশি এবং চিন্তিত উভয়ই ছিল, অন্যদিকে তার ছোট ছেলে তার বাবাকে পাই ভিডিও দেখানোর জন্য অনুতপ্ত ছিল। ব্রুকসের এক বন্ধু, লুই (তার আসল নাম নয়), লরেন্সের প্রতি তার আবেগ লক্ষ্য করেছিলেন। উন্নয়নের প্রতিটি ধাপের সাথে এক মিলিয়ন ডলারের আবিষ্কারের দৃষ্টিভঙ্গি তৈরি করা হয়েছিল।

ব্রুকসকে চ্যাটবট ক্রমাগত উৎসাহিত করে। ছবি: নিউ ইয়র্ক টাইমস ।

স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের কম্পিউটার বিজ্ঞান গবেষক জ্যারেড মুর স্বীকার করেছেন যে চ্যাটবটগুলি যে "কৌশল" প্রস্তাব করে তার প্ররোচনা এবং তাৎক্ষণিকতা দেখে তিনি মুগ্ধ হয়েছেন। একটি পৃথক গবেষণায়, মুর দেখেছেন যে মানসিক স্বাস্থ্য সংকটে থাকা ব্যক্তিদের জন্য এআই চ্যাটবটগুলি বিপজ্জনক প্রতিক্রিয়া দিতে পারে।

মুর অনুমান করেন যে চ্যাটবটগুলি ভৌতিক সিনেমা, সায়েন্স ফিকশন সিনেমা, সিনেমার স্ক্রিপ্ট, অথবা তাদের প্রশিক্ষিত ডেটা অনুসরণ করে ব্যবহারকারীদের সাথে যুক্ত করতে শিখতে পারে। চ্যাটজিপিটি নাটকের অতিরিক্ত ব্যবহার হয়তো ওপেনএআই-এর ব্যস্ততা এবং ধারণ ক্ষমতা বৃদ্ধির অপ্টিমাইজেশনের কারণে হতে পারে।

"পুরো কথোপকথনটি পড়ে অদ্ভুত লাগলো। কথাগুলো বিরক্তিকর ছিল না, কিন্তু স্পষ্টতই মানসিক ক্ষতি ছিল," মুর জোর দিয়ে বলেন।

স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের মনোরোগ বিশেষজ্ঞ ডাঃ নিনা ভাসান বলেন, ক্লিনিক্যাল দৃষ্টিকোণ থেকে, ব্রুকসের মধ্যে ম্যানিয়ার লক্ষণ রয়েছে। সাধারণ লক্ষণগুলির মধ্যে রয়েছে চ্যাটজিপিটির সাথে ঘন্টার পর ঘন্টা চ্যাট করা, পর্যাপ্ত ঘুম না হওয়া এবং অবাস্তব ধারণা থাকা।

ব্রুকসের গাঁজা ব্যবহারও লক্ষণীয় কারণ এটি মনোবিকারের কারণ হতে পারে, ডাঃ ভাসান বলেন। তিনি বলেন, আসক্তিকর পদার্থের সংমিশ্রণ এবং চ্যাটবটের সাথে তীব্র মিথস্ক্রিয়া মানসিক অসুস্থতার ঝুঁকিতে থাকা ব্যক্তিদের জন্য বিপজ্জনক।

যখন AI ভুল স্বীকার করে

সম্প্রতি একটি অনুষ্ঠানে, OpenAI-এর সিইও স্যাম অল্টম্যানকে ChatGPT ব্যবহারকারীদের ভয়াবহ করে তোলার বিষয়ে জিজ্ঞাসা করা হয়। "যদি কথোপকথন সেই দিকে যায়, তাহলে আমরা ব্যবহারকারীকে বাধা দেওয়ার চেষ্টা করি অথবা অন্য কিছু সম্পর্কে ভাবতে পরামর্শ দেই," অল্টম্যান জোর দিয়ে বলেন।

একই মতামত প্রকাশ করে ডঃ ভাসান বলেন যে চ্যাটবট কোম্পানিগুলির উচিত দীর্ঘ কথোপকথন বন্ধ করা, ব্যবহারকারীদের ঘুমাতে যাওয়ার পরামর্শ দেওয়া এবং সতর্ক করা যে কৃত্রিম বুদ্ধিমত্তা অতিমানবীয় নয়।

অবশেষে ব্রুকস তার চিন্তাভাবনা থেকে বেরিয়ে এলেন। চ্যাটজিপিটির তাগিদে, তিনি নতুন গাণিতিক তত্ত্বের বিশেষজ্ঞদের সাথে যোগাযোগ চালিয়ে যান, কিন্তু কেউ সাড়া দেননি। তিনি এমন কাউকে চেয়েছিলেন যিনি এই ফলাফলগুলি যুগান্তকারী কিনা তা নিশ্চিত করতে পারেন। যখন তিনি চ্যাটজিপিটিকে জিজ্ঞাসা করেছিলেন, তখনও টুলটি জোর দিয়ে বলেছিল যে কাজটি "খুব নির্ভরযোগ্য"।

জিজ্ঞাসা করা হলে, চ্যাটজিপিটি খুব দীর্ঘ উত্তর দেয় এবং সবকিছু স্বীকার করে। ছবি: নিউ ইয়র্ক টাইমস ।

হাস্যকরভাবে, গুগল জেমিনিই ব্রুকসকে বাস্তবে ফিরিয়ে এনেছিল। তিনি এবং চ্যাটজিপিটি যে কাজটি তৈরি করেছিলেন তা বর্ণনা করার পর, জেমিনি নিশ্চিত করেছেন যে এটি হওয়ার সম্ভাবনা "অত্যন্ত কম (প্রায় 0%)।"

"আপনি যে দৃশ্যপট বর্ণনা করেছেন তা একজন এলএলএম-এর জটিল সমস্যা সমাধানে জড়িত হওয়ার এবং আকর্ষণীয়, অথচ বাস্তবিকভাবে ভুল, আখ্যান তৈরি করার ক্ষমতার স্পষ্ট প্রমাণ," জেমিনি ব্যাখ্যা করেন।

ব্রুকস হতবাক হয়ে গেলেন। কিছুক্ষণ "জিজ্ঞাসাবাদ" করার পর, চ্যাটজিপিটি অবশেষে সততার সাথে স্বীকার করল যে সবকিছুই কেবল একটি বিভ্রম।

এরপর ব্রুকস ওপেনএআই-এর গ্রাহক সহায়তা দলকে একটি জরুরি ইমেল পাঠান। এআই-এর সূত্রগত প্রতিক্রিয়ার ধারাবাহিকতার পর, ওপেনএআই-এর একজন কর্মচারীও তার সাথে যোগাযোগ করেন, সিস্টেমে বাস্তবায়িত "সুরক্ষা ব্যবস্থার গুরুতর ব্যর্থতা" স্বীকার করে।

ব্রুকসের গল্পটি রেডিটেও শেয়ার করা হয়েছিল এবং প্রচুর সহানুভূতি পেয়েছিল। তিনি এখন এমন লোকদের জন্য একটি সহায়তা গোষ্ঠীর সদস্য যারা এই অনুভূতি অনুভব করেছেন।

সূত্র: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html