অল্প কিছু প্যারামিটার, প্রচুর ডেটা

[বিজ্ঞাপন_১]

গত সপ্তাহে ঘোষিত গুগলের সর্বশেষ বৃহৎ ভাষা মডেল (LLM) PaLM 2, তার 2022 সালের পূর্বসূরীর তুলনায় প্রায় পাঁচগুণ বেশি প্রশিক্ষণ ডেটা ব্যবহার করে, যা এটিকে আরও উন্নত প্রোগ্রামিং, গণিত এবং সামগ্রী তৈরি করতে দেয়।

গুগল আই/ও ডেভেলপারস কনফারেন্সে, সার্চ জায়ান্টটি PaLM 2 চালু করেছে - ৩.৬ ট্রিলিয়ন টোকেনের উপর প্রশিক্ষিত একটি ভাষা মডেল। এই টোকেনগুলি হল শব্দের ক্রম - পরবর্তী শব্দ ভবিষ্যদ্বাণী করার জন্য LLM-কে প্রশিক্ষণ দেওয়ার জন্য ব্যবহৃত বিল্ডিং ব্লক।

PaLM-এর পূর্ববর্তী সংস্করণটি ২০২২ সালে প্রকাশিত হয়েছিল এবং ৭৮০ বিলিয়ন টোকেন দিয়ে তৈরি হয়েছিল।

গত সপ্তাহের গুগল আই/ও ইভেন্টে গুগলের সিইও সুন্দর পিচাই কোম্পানির সর্বশেষ বৃহৎ ভাষার মডেল, PaLM 2 উপস্থাপন করেন।

গুগল সার্চ, ইমেল, ওয়ার্ড প্রসেসিং এবং স্প্রেডশিটে তার এআই দক্ষতার কথা প্রচার করলেও, কোম্পানিটি তার প্রশিক্ষণ ডেটাসেটের আকার বা বিশদ প্রকাশ করতে অনিচ্ছুক। ওপেনএআই তার সর্বশেষ এলএলএম প্রশিক্ষণ স্পেসিফিকেশন, জিপিটি-৪ এর বিশদটিও গোপন রেখেছে।

প্রযুক্তি কোম্পানিগুলি তাদের ব্যবসার প্রতিযোগিতামূলক প্রকৃতির কারণে এর কারণ হিসেবে দায়ী করছে। গুগল এবং ওপেনএআই উভয়ই ঐতিহ্যবাহী সার্চ ইঞ্জিনের পরিবর্তে চ্যাটবট পণ্য ব্যবহার করে ব্যবহারকারীদের আকৃষ্ট করার জন্য দৌড়ে আছে।

কমপ্যাক্ট, শক্তিশালী, সাশ্রয়ী

গুগল জানিয়েছে যে PaLM 2 তার পূর্বসূরীদের তুলনায় ছোট, পূর্ববর্তী সংস্করণের 540 বিলিয়ন প্যারামিটারের তুলনায় 340 বিলিয়ন প্যারামিটার দিয়ে প্রশিক্ষিত। এটি দেখায় যে কোম্পানির প্রযুক্তি জটিল কাজ সম্পাদনে আরও দক্ষ হয়ে উঠছে।

এটি অর্জনের জন্য, PaLM 2 "এক্সটেন্ডেড কম্পিউটিং অপ্টিমাইজেশন" নামে একটি নতুন কৌশল ব্যবহার করে, যা "উন্নত সামগ্রিক কর্মক্ষমতা প্রদান করে, যার মধ্যে রয়েছে কম পরামিতি সহ দ্রুত অনুমান যা ওভারহেড হ্রাস করে।"

১০০টিরও বেশি ভাষায় প্রশিক্ষিত গুগলের সর্বশেষ ভাষা এআই মডেলটি ২৫টি বৈশিষ্ট্য এবং পণ্যের জন্য বিভিন্ন ধরণের কাজ সম্পাদন করছে, যার মধ্যে রয়েছে পরীক্ষামূলক চ্যাটবট বার্ড। PaLM 2 আকারের উপর ভিত্তি করে চারটি সংস্করণে আসে, ছোট থেকে বড়: গেকো, অটার, বাইসন এবং ইউনিকর্ন।

পাবলিক ডকুমেন্টেশন অনুসারে, PaLM 2 বিদ্যমান যেকোনো মডেলের চেয়ে বেশি শক্তিশালী। ফেব্রুয়ারিতে প্রকাশিত ফেসবুকের LlaMA, 1.4 ট্রিলিয়ন টোকেনের উপর প্রশিক্ষিত ছিল। ইতিমধ্যে, OpenAI সর্বশেষ 300 বিলিয়ন টোকেন সহ ChatGPT, এর জন্য প্রশিক্ষণ ডেটা আকার প্রকাশ করেছে।

এআই অ্যাপ্লিকেশনের বিস্ফোরণ প্রযুক্তিটিকে ঘিরে বিতর্কের সৃষ্টি করেছে। এই বছরের শুরুতে, গুগল রিসার্চের একজন সিনিয়র বিজ্ঞানী এল মাহদি এল মাহদি সার্চ জায়ান্টের স্বচ্ছতার অভাবের প্রতিবাদে পদত্যাগ করেন।

এই সপ্তাহে, ওপেনএআই-এর সিইও স্যাম অল্টম্যানও মার্কিন সিনেটের বিচার বিভাগীয় উপকমিটির গোপনীয়তা এবং প্রযুক্তি সংক্রান্ত উপকমিটির সামনে এআই আরও জনপ্রিয় হওয়ার প্রেক্ষাপটে সাক্ষ্য দিয়েছেন, যেখানে চ্যাটজিপিটির "পিতা" আইন প্রণেতাদের সাথে একমত হয়েছেন যে এআই পরিচালনার জন্য নতুন নিয়মকানুন প্রয়োজন।

(সিএনবিসি অনুসারে)

[বিজ্ঞাপন_২]
উৎস