عدد أقل من المعايير، بيانات أكثر

يستخدم PaLM 2، وهو أحدث نموذج لغوي كبير (LLM) من جوجل، والذي تم الإعلان عنه الأسبوع الماضي، ما يقرب من خمسة أضعاف كمية بيانات التدريب مقارنة بسابقه لعام 2022، مما يُمكّنه من البرمجة وحل المشكلات وإنشاء محتوى أكثر تقدماً.

في مؤتمر جوجل للمطورين I/O، كشفت عملاقة البحث عن PaLM 2، وهو نموذج لتدريب اللغة يعتمد على 3.6 تريليون رمز. هذه الرموز عبارة عن سلاسل من الكلمات، وهي اللبنات الأساسية المستخدمة في تدريب نماذج اللغة للتنبؤ بالكلمة التالية التي ستظهر.

تم إصدار النسخة السابقة من PaLM في عام 2022 وتم تدريبها باستخدام 780 مليار رمز مميز.

في حدث جوجل I/O الذي أقيم الأسبوع الماضي، قدم الرئيس التنفيذي لشركة جوجل، سوندار بيتشاي، أحدث نموذج لغوي كبير للشركة، وهو PaLM 2.

رغم أن جوجل تستعرض باستمرار قوة الذكاء الاصطناعي في البحث والبريد الإلكتروني ومعالجة النصوص والجداول الإلكترونية، إلا أنها تُحجم عن الكشف عن حجم أو تفاصيل مجموعات بيانات التدريب الخاصة بها. كما تُبقي OpenAI تفاصيل أحدث معلمات تدريب نموذج التعلم الآلي (LLM)، وهو GPT-4، سرية.

تُفسّر شركات التكنولوجيا ذلك بطبيعة المنافسة الشديدة في مجال عملها. فكل من جوجل وOpenAI تتسابقان لجذب المستخدمين عبر منتجات روبوتات الدردشة بدلاً من محركات البحث التقليدية.

صغير الحجم، قوي، واقتصادي.

أعلنت جوجل أن نظام PaLM 2 أكثر كفاءة من سابقيه، حيث تم تدريبه باستخدام 340 مليار مُعامل مقارنةً بـ 540 مليار مُعامل في الإصدار السابق. وهذا يُظهر أن تقنية الشركة تُصبح أكثر فعالية في أداء المهام المعقدة.

ولتحقيق ذلك، يستخدم PaLM 2 تقنية جديدة تسمى "تحسين الحوسبة الموسعة"، والتي توفر "أداءً عامًا أفضل، بما في ذلك استدلال أسرع مع عدد أقل من المعلمات، مما يقلل من تكاليف التشغيل".

يُنفّذ أحدث نموذج لغوي للذكاء الاصطناعي من جوجل، والذي تم تدريبه على أكثر من 100 لغة، مهامًا متنوعة لـ 25 ميزة ومنتجًا، بما في ذلك روبوت الدردشة التجريبي بارد. يتوفر PaLM 2 بأربعة إصدارات حسب الحجم، من الأصغر إلى الأكبر: جيكو، وأوتر، وبيسون، ويونيكورن.

بحسب الوثائق المتاحة للعموم، يُعدّ PaLM 2 أكثر قوةً من أي نموذج موجود. وقد تم تدريب نموذج LlaMA التابع لفيسبوك، والذي أُطلق في فبراير، على 1.4 تريليون رمز. في المقابل، كانت آخر مرة كشفت فيها OpenAI علنًا عن حجم بيانات التدريب لنموذج ChatGPT هي بيانات الإصدار GPT-3 التي بلغت 300 مليار رمز.

أثار الانتشار الواسع لتطبيقات الذكاء الاصطناعي جدلاً واسعاً حول هذه التقنية. وفي وقت سابق من هذا العام، استقال المهدي، وهو عالم بارز في قسم الأبحاث في جوجل، احتجاجاً على افتقار عملاق البحث للشفافية.

أدلى سام ألتمان، الرئيس التنفيذي لشركة OpenAI، هذا الأسبوع بشهادته أمام اللجنة الفرعية القضائية في مجلس الشيوخ الأمريكي بشأن الخصوصية والتكنولوجيا في سياق الانتشار المتزايد للذكاء الاصطناعي. واتفق مبتكر ChatGPT مع المشرعين على ضرورة وضع قوانين جديدة لتنظيم الذكاء الاصطناعي.

(بحسب قناة سي إن بي سي)

مصدر