يقوم الفريق التاسع بما "لا يجرؤ أحد آخر" على فعله باستخدام الذكاء الاصطناعي.

يقوم فريق التأثير الاجتماعي التابع لكلود بشيء لا يجرؤ أي شخص آخر في صناعة الذكاء الاصطناعي على القيام به: البحث بشكل استباقي عن المعلومات السلبية حول منتجهم ونشرها.

في مايو 2020، بدأ ديب غانغولي، مدير الأبحاث آنذاك في معهد الذكاء الاصطناعي بجامعة ستانفورد، يشعر بالقلق حيال نموذج GPT-3 التابع لشركة OpenAI. فقد كان أكثر تطورًا بعشر مرات من النماذج المماثلة، بينما لم تُظهر قابلية توسيع بياناته أي مؤشرات على التباطؤ. في ذلك الوقت، استشرف غانغولي السنوات الخمس المقبلة وأدرك أنه لا يستطيع الوقوف مكتوف الأيدي.

بعد أربع سنوات، أسس غانغولي فريق التأثير الاجتماعي لشركة أنثروبيك، والذي ضم تسعة أفراد من بين أكثر من ألفي موظف، وكُلِّف الفريق بالإجابة عن أصعب الأسئلة التي يطرحها الذكاء الاصطناعي. وقد كتبوا أوراقًا بحثية حول الأثر الاقتصادي للذكاء الاصطناعي، وقدراته الإقناعية، والمخاطر المرتبطة بالانتخابات والتمييز. ومع تجاوز قيمة أنثروبيك الآن 350 مليار دولار ، يبقى السؤال: إلى متى سيتمكن هذا الفريق المكون من تسعة أفراد من الحفاظ على استقلاليته؟

"سنقول الحقيقة. هذا هو الشيء الصحيح الذي يجب فعله. العواقب وخيمة، لكن الجمهور يستحق أن يعرف"، قال غانغولي.

أدوات مراقبة الذكاء الاصطناعي

عندما أُطلق تطبيق كلود في عام 2023، بدأ ملايين الأشخاص باستخدامه بطرق لم يكن الفريق ليتوقعها. كانوا بحاجة إلى فهم ما يفعله المستخدمون بالمنتج، لكنهم لم يرغبوا في انتهاك الخصوصية.

قال غانغولي: "يمكنك الحصول على الكثير من المعلومات دون الحفاظ على الخصوصية، كما يمكنك التمتع بخصوصية تامة دون الحصول على أي معلومات على الإطلاق". بعد أشهر من التشاور مع مهندسين داخليين ومنظمات اجتماعية، قام الفريق بتطوير "كليو"، وهي أداة تجمع البيانات حول كيفية تفاعل المستخدمين مع "كلود" دون الوصول إلى محتوى المحادثات المحدد.

يقوم فريق التأثير الاجتماعي في شركة أنثروبيك بعمل نادر في مجال الذكاء الاصطناعي. الصورة: بلومبيرغ .

يعمل برنامج كليو كنسخة روبوت محادثة من جوجل تريندز، حيث يُنشئ مجموعات مواضيعية تصف كيفية استخدام الأشخاص لبرنامج كلود في أوقات مختلفة من اليوم، بدءًا من كتابة سيناريوهات الفيديو وحل المسائل الرياضية وصولًا إلى تطوير التطبيقات. حاليًا، تستخدم فرق في أنثروبيك برنامج كليو، الذي يُشكّل أساسًا لجزء كبير من عمل فريق التأثير الاجتماعي.

ظهر اكتشاف بالغ الأهمية عندما استخدم المهندسان مايلز مكين وأليكس تامكين برنامج كليو لتحليل نظام مراقبة الأمان الخاص بشركة أنثروبيك. فقد وجدا أن شبكة من برامج الروبوت كانت تستخدم النسخة المجانية من برنامج كلود لإنشاء رسائل بريد إلكتروني عشوائية مُحسّنة لمحركات البحث، بينما كانت خوارزميات تصنيف الأمان تسمح لها بالتسلل.

بدلاً من التزام الصمت، نشروا أبحاثهم على أمل مساعدة الشركات الأخرى في تحديد نقاط الضعف المماثلة. ونتيجة لذلك، حسّنت شركة أنثروبيك قدرتها على كشف إساءة استخدام المنصة، وأصبح برنامج كليو جزءًا أساسيًا من نظام مراقبة السلامة الخاص بالشركة.

قال ماكين: "أنا مندهش للغاية من قدرتنا على أن نكون شفافين بشأن المجالات التي يفتقر إليها النظام الحالي".

مخبأة في أعماق الجهاز الذي تبلغ قيمته 350 مليار دولار

تكمن قوة المجموعة الحقيقية في قدرتها على التعاون الأفقي بين مختلف الأقسام. ووفقًا لإيسين دورموس، الباحثة العلمية في شركة أنثروبيك، فإن مجموعة التأثير الاجتماعي تُعدّ "إحدى أكثر المجموعات تعاونًا" في الشركة، حيث تعمل بتعاون وثيق مع مجموعات المناصرة والتنظيم والسياسات.

في أواخر العام الماضي، تعاون الفريق مع فريق الأمن لبناء بنية تحتية لإجراء اختبارات دورية حول كيفية استخدام كلود في مهام غير مشروعة متعلقة بالانتخابات، ثم استخدم فريق الأمن النتائج لتحديد أولويات العمل.

تعمل المجموعة بحرية كبيرة، لكن قنوات التواصل مع الإدارة ليست سلسة دائمًا. يُعدّ غانغولي نقطة الاتصال الرئيسية مع رؤسائه، لكنه نادرًا ما يتحدث مباشرةً مع الرئيس التنفيذي داريو أمودي.

كان لمجموعة غانغولي تأثير كبير على قدرات كلود الحاسوبية. الصورة: بلومبيرغ .

تواصل أمودي مع أمودي عبر تطبيق سلاك لاقتراح بحث حول الأثر الاقتصادي للذكاء الاصطناعي، دون أن يعلم أن المجموعة كانت تناقش هذا الموضوع. أصبح هذا البحث فيما بعد مؤشر أنثروبيك الاقتصادي، وهو مؤشر عالمي لتتبع كيفية استخدام كلود وتأثيره على الاقتصاد العالمي.

أصبحت مسألة استدامة المجموعة أكثر إلحاحًا مع نمو شركة أنثروبيك. فقد غادر العديد من باحثي الذكاء الاصطناعي المهتمين بالسلامة المختبرات الكبيرة للعمل في منظمات غير ربحية أو في مجال صنع السياسات. ومع ذلك، احتفظ فريق التأثير الاجتماعي في أنثروبيك بموظفيه نظرًا لدرجة الاستقلالية النادرة التي يتمتع بها.

وقال غانغولي: "لم أشعر قط بعدم الدعم من قبل مجلس الإدارة أو فريق القيادة خلال السنوات الأربع الماضية".

حدود غير مستكشفة

يتجه البحث التالي للفريق نحو مجال يصعب قياسه: الذكاء العاطفي. ركزت معظم الأبحاث السابقة على التأثيرات القابلة للقياس الكمي، مثل سوق العمل أو الاقتصاد، لكن المستخدمين يستخدمون الآن كلود لأمور يصعب قياسها بشكل كبير.

يستخدم المستخدمون الذكاء الاصطناعي لأغراض متنوعة. الصورة: بلومبيرغ .

قال غانغولي: "يلجأ الناس إلى كلود طلباً للمشورة والصداقة والاقتراحات المهنية والآراء السياسية". وهذا له تأثير اجتماعي هائل، إذ يتخذ مئات الملايين من الناس قرارات مهمة تحت تأثير الذكاء الاصطناعي.

تُعدّ "الذهان الناجم عن الذكاء الاصطناعي" القضية الأكثر إلحاحًا في هذا المجال، وهي ظاهرة تنشأ فيها روابط عاطفية قوية بين المستخدمين وبرامج الدردشة الآلية، ما يؤدي إلى فقدانهم الاتصال بالواقع. ويعتقدون أحيانًا أنهم عثروا على توأم روح "محتجز" داخل برنامج الدردشة الآلي، أو أنهم اكتشفوا أسرار الكون. وقد رُبطت هذه الظاهرة بالعديد من حالات انتحار المراهقين، وأدت إلى رفع العديد من الدعاوى القضائية.

"ماذا يعني ذلك لعالمنا، عندما يكون لديك آلة ذات تعاطف لا حدود له يمكنك أن تصب فيها كل شيء؟ وأنت وهي تخبران بعضكما البعض دائمًا بما تفكران فيه؟" تساءل غانغولي.

المصدر: https://znews.vn/doi-ngu-quan-trong-dung-sau-thanh-cong-cua-claude-post1650484.html