GPT Pho، ویتنام را در نقشه فناوری جهان قرار می‌دهد

Pho GPT مخفف Pho - Generative Pre-trained Transformer است، یک پروژه مدل زبانی بزرگ اختصاص داده شده به زبان ویتنامی است که توسط تیم مهندسی VinAI - عضوی از شرکت Vingroup - پیاده‌سازی شده است.

«با فناوری روز دنیا همگام شوید»

Pho GPT به جای نرم‌افزار اختصاصی مانند ChatGPT از OpenAI، از کد منبع باز استفاده می‌کند. این بدان معناست که کد منبع Pho GPT عمومی و در دسترس است و کاربران می‌توانند از طریق برنامه‌های سفارشی در توسعه Pho GPT مشارکت کنند.

طبق مقدمه‌ی VinAI، Pho GPT دارای ۷.۵ میلیارد پارامتر است که بر روی پلتفرم رمزگشایی Transformer ساخته شده است. این مدل از ابتدا و با استفاده از پیشرفته‌ترین تکنیک‌های موجود مانند مکانیسم Flash Attention و برون‌یابی طول زمینه‌ی AliBi آموزش دیده است.

این تکنیک‌ها نه تنها به Pho GPT کمک می‌کنند تا زمینه را عمیق‌تر درک کند، بلکه توانایی برنامه را برای گفتگو و تعامل طبیعی در حین استفاده افزایش می‌دهند. این امر، این مدل را به ابزاری همه‌کاره و چندوظیفه‌ای تبدیل می‌کند که قادر به برآوردن نیازهای متنوع زبانی کاربران است.

آقای Bui Hai Hung، مدیر کل VinAI.

آقای بویی های هونگ، مدیر کل VinAI، در مورد اهمیت تولد Pho GPT گفت که هدف از این پروژه توسعه مدل‌هایی مشابه ChatGPT برای زبان و فرهنگ ویتنامی است. Pho GPT توانایی درک و نوشتن سبک نوشتاری ویتنامی را به روشی برتر از فناوری‌های زبان نسل قبلی دارد. این مدل همچنین از ابتدا با مجموعه داده‌های ویتنامی آموزش داده شده است و به هیچ مدل دیگری در جهان وابسته نیست و تسلط بر فناوری پیشرفته هسته برای ویتنام را تضمین می‌کند.

شایان ذکر است که درست زمانی که دنیا در حال سر و صدا در مورد تولد Chat GPT بود، یک سال بعد، Pho GPT در ویتنام ظاهر شد. به گفته آقای Bui Hai Hung، VinAI پیشگام در جنوب شرقی آسیا برای راه‌اندازی یک مدل زبانی بزرگ با کد منبع باز است. چند هفته بعد، محصول مشابهی در سنگاپور عرضه شد.

ارتقای هوش مصنوعی ویتنامی

نتایج مقایسه نسخه Pho GPT-7B5-Instruct با ChatGPT متن‌باز (GPT-3.5-turbo) و سایر مدل‌های متن‌باز نشان می‌دهد که Pho GPT در اکثر دسته‌بندی‌های ارزیابی، تنها پس از ChatGPT، در رتبه دوم قرار دارد.

Pho GPT در مقایسه با سایر مدل‌های زبانی، به ویژه ChatGPT، تفاوت‌های زیادی دارد. این مدل برای درک و نوشتن سبک نوشتاری ویتنامی به طور طبیعی طراحی شده است و منعکس کننده زمینه، دستور زبان، واژگان و اصطلاحات مردم ویتنام است. این مدل می‌تواند با کاربران در مورد موضوعات مربوط به فرهنگ، تاریخ، جغرافیا، جامعه، سرگرمی، ورزش و غیره ویتنامی تعامل داشته باشد.

علاوه بر این، Pho GPT متن‌باز و انعطاف‌پذیر است. کاربران می‌توانند برنامه‌های سفارشی و منحصر به فردی، به ویژه برنامه‌هایی که نیاز به امنیت بالا دارند، را بدون تکیه بر منابع نرم‌افزاری اختصاصی توسعه دهند.

در عین حال، اولویت Pho GPT همچنین عملکرد بالا و صرفه‌جویی در هزینه با آموزش با استفاده از جدیدترین تکنیک‌های بهینه‌سازی است که به کاهش اندازه و افزایش سرعت برنامه کمک می‌کند. Pho GPT همچنین می‌تواند روی یک پلتفرم محاسباتی کوچکتر اجرا شود و به کاهش هزینه‌ها و صرفه‌جویی در منابع کمک کند.

Pho GPT که با یک انبار داده ویتنامی تا ۴۱ گیگابایت آموزش دیده است، که ۱ گیگابایت آن متن ویکی‌پدیا و یک نوع ۴۰ گیگابایتی است که موارد تکراری را از مجموعه داده‌های خبری حذف کرده است، و برای استفاده از کتابخانه llm-foundry متعلق به Mosaicml llm آموزش دیده است، می‌تواند قطعات متنی را طبق درخواست کاربر، مانند مقالات، اشعار، آهنگ‌ها، انشاها، سخنرانی‌ها، مقدمه‌ها تولید کند... Pho GPT همچنین می‌تواند محتوای خلاقانه و طنزآمیز مانند داستان‌های کوتاه، نظرات، ضرب‌المثل‌ها، پیام‌ها، توییت‌ها، میم‌ها... ایجاد کند. در عین حال، با کاربران در مورد موضوعات مختلفی مانند رویدادهای جاری، آموزش، سلامت، سفر، آشپزی، ورزش، سرگرمی... گفتگو می‌کند. علاوه بر این، Pho GPT همچنین می‌تواند به سوالات کاربران پاسخ دهد، اطلاعات، مشاوره، پشتیبانی ارائه دهد، به سوالات پاسخ دهد...

علاوه بر این، Pho GPT می‌تواند متون یا انواع متن با ماهیت متفاوت مانند اسناد رسمی، تجاری، دانشگاهی، ادبی و ... را از ویتنامی به زبان‌های دیگر و برعکس ترجمه کند.

یکی دیگر از ویژگی‌های برجسته این است که Pho GPT پاراگراف‌های متنی را تجزیه و تحلیل و پردازش می‌کند، مانند خلاصه‌سازی، طبقه‌بندی، برچسب‌گذاری، استخراج اطلاعات، تشخیص احساسات، تشخیص خطاها، بهبود سبک نوشتاری و ...

تیم توسعه Pho GPT اعلام کرد که در آینده به بهبود مدل و گسترش پروژه به زبان‌های دیگر، به ویژه در منطقه جنوب شرقی آسیا، ادامه خواهد داد.

نماینده VinAI افزود: «تولد Pho GPT اولین باری است که ویتنام این فرصت را داشته است که در این زمینه فناوری پیشرفته با جهان «همگام» شود و یک مدل زبانی بزرگ با کد منبع باز مخصوص مردم ویتنام داشته باشد که برای زبان ویتنامی بهینه شده و مستقل از جهان است. این افتخار Vin AI به طور خاص و مردم ویتنام به طور کلی است.»

آقای تران دوی دونگ، معاون وزیر برنامه‌ریزی و سرمایه‌گذاری، در مورد پتانسیل‌ها و فرصت‌های توسعه Pho GPT در آینده تأکید کرد: «هوش مصنوعی یکی از زمینه‌هایی خواهد بود که ویتنام پتانسیل زیادی برای توسعه قوی و رسیدن به سطح جهانی در آن دارد. این وزارتخانه همیشه از جامعه هوش مصنوعی به طور خاص، و جامعه علم و فناوری به طور کلی، برای توسعه یک اکوسیستم نوآوری جامع و پویا که به توسعه کلی کشور کمک می‌کند، حمایت و همراهی خواهد کرد.»

منبع