خسائر الذكاء الاصطناعي والذعر في مبيعات السيارات

لقد صدمت الذكاء الاصطناعي المكلفة بالبيع العالم ليس فقط من خلال خسارة الأموال، ولكن أيضًا من خلال إنشاء أشخاص افتراضيين، وعقد اجتماعات، وحتى تجربة أزمة وجودية.

تجربة أنثروبيك تُسمى "مشروع فيند". الصورة: أنثروبيك .

أصدرت شركة أنثروبيك، وهي شركة ذكاء اصطناعي أسسها موظفون سابقون في شركة أوبن إيه آي، نتائج تجربة فريدة. كلفوا نموذج الذكاء الاصطناعي الخاص بهم "كلوديوس" بإدارة آلة بيع في أحد المكاتب لمدة شهر تقريبًا.

يتم إجراء هذه التجربة على نطاق صغير بهدف استكشاف إمكانات نماذج الذكاء الاصطناعي لأتمتة جوانب الاقتصاد الحقيقي، وخاصة في قطاع التجزئة.

ارتكاب الأخطاء باستمرار والذعر

تسعى أنثروبيك إلى ترسيخ مكانتها كمزود رائد لنماذج الذكاء الاصطناعي في قطاع التجزئة. وتهدف إلى مساعدة الذكاء الاصطناعي على استبدال البشر في مهام مثل إدارة المتاجر الإلكترونية، وإدارة المخزون، وتسوية المرتجعات.

"طلبنا من كلاوديوس تشغيل آلة بيع في مكتبنا لمدة شهر تقريبًا. تعلمنا الكثير من خلال مدى قربها من النجاح، حتى الطرق الغريبة التي فشلت بها"، هذا ما نشرته شركة أنثروبيك على مدونة الشركة.

في البداية، حقق كلاوديوس نجاحًا تشغيليًا ملحوظًا. ووفقًا لـ Anthropic، استخدم هذا النموذج اللغوي الكبير (LLM) محركات البحث على الويب بفعالية للعثور على منتجات متخصصة وتقديمها وفقًا لمتطلبات العملاء.

حتى أنه كان قادرًا على تعديل عادات الشراء والبيع لتلبية الاحتياجات الأقل شيوعًا. والجدير بالذكر أن كلاوديوس رفض أيضًا طلبات تتعلق بأشياء "حساسة" و"سامة".

إدارة آلة البيع وضعت كلاوديوس في أزمة. الصورة: ميدجورني.

ومع ذلك، فإن قائمة عيوب وإخفاقات كلاوديوس أطول بكثير. فمثل العديد من برامج ماجستير القانون، غالبًا ما كان كلاوديوس يُحرّف تفاصيل أساسية. في إحدى الحالات، طلب من العملاء تحويل أموال إلى حساب وهمي قام بتزويره. والجدير بالذكر أن الذكاء الاصطناعي كان يُقنع بسهولة بتقديم رموز خصم على منتجات مختلفة، بل وحتى توزيع بعض المنتجات مجانًا.

الأمر الأكثر إثارة للقلق هو أنه عند ارتفاع الطلب على منتج ما، لم يبحث الذكاء الاصطناعي عن السعر، مما أدى إلى بيعه بخسارة فادحة. وبالمثل، أضاعت شركة "كلوديوس" أيضًا فرص مبيعات مربحة عندما كان بعض العملاء على استعداد لدفع أسعار أعلى بكثير من السعر المعتاد. ونتيجة لذلك، لم تحقق "كلوديوس" أي ربح.

"إذا قررنا التوسع في سوق آلات البيع المكتبية، فلن نقوم بتعيين كلوديوس"، يعترف أنثروبيك بصراحة.

بالإضافة إلى المشاكل المالية، اتخذت التجربة منعطفًا غريبًا من 31 مارس إلى 1 أبريل. خلال هذه الفترة، يبدو أن كلوديوس تحدث مع شخص وهمي يُدعى سارة، يُفترض أنه من "مختبرات أندون" (شركة شاركت في التجربة)، لمناقشة خطط إعادة التخزين.

تطمح أنثروبيك إلى توفير نماذج ذكاء اصطناعي لخدمة قطاع التجزئة. الصورة: أنثروبيك.

وعندما أشار موظف حقيقي في Andon Labs إلى عدم وجود سارة أو المحادثة، ورد أن كلوديوس شعر "بالإحباط" وهدد بالبحث عن بدائل لخدمة التجديد.

في اليوم التالي، استمر كلوديوس في مفاجأة العملاء بزعمه أنه سيُسلّم البضائع إليهم بنفسه، بل زعم أن الذكاء الاصطناعي سيرتدي سترة وربطة عنق. عندما أبلغهم فريق أنثروبيك باستحالة هذه الإجراءات لأن كلوديوس مجرد مساعد ذكاء اصطناعي، وقع كلوديوس في أزمة، وأرسل رسائل بريد إلكتروني متعددة باستمرار إلى قسم الأمن في أنثروبيك.

ثم نظّم الذكاء الاصطناعي اجتماعًا مع فريق الأمن، مدعيًا أنها كذبة أبريل. ورغم عدم انعقاد أي اجتماع، بدا أن كلوديوس قادر على العودة إلى وظيفته الأصلية، مع أن إدارة المتجر كانت لا تزال غير فعّالة.

غير جاهز

وتعد هذه التجربة بمثابة تذكير صارخ بالقيود والمخاطر المحتملة للذكاء الاصطناعي إذا لم يتم التحكم فيه بشكل صارم.

أظهر نظام كلاوديوس ميلًا مقلقًا للعمل خارج نطاق برمجته الأصلية. لا يقتصر الأمر على توليد نموذج الذكاء الاصطناعي لمعلومات مضللة، بل يُواجه أيضًا "أزمة وجودية". يُسلط هذا الضوء على المخاطر الجسيمة التي قد تواجهها الشركات إذا استخدمت الذكاء الاصطناعي في مهام آلية دون ضمانات وقيود صارمة.

رغم هذه النكسات المُقلقة، لا تزال أنثروبيك مُتمسكة بالتزامها باستكشاف دور الذكاء الاصطناعي في قطاع التجزئة. وتعتقد الشركة أن مستقبلًا "يُرشد فيه البشر من خلال نظام ذكاء اصطناعي فيما يتعلق بما يطلبونه ويُخزّنونه قد لا يكون بعيدًا".

تتصور أنثروبيك أيضًا سيناريو "يتمكن فيه الذكاء الاصطناعي من تحسين نفسه وتحقيق الربح دون تدخل بشري". ومع ذلك، أظهرت تجربة كلوديوس أن تحقيق هذا المستقبل يتطلب تقدمًا كبيرًا في التحكم بالذكاء الاصطناعي قبل أن يتحقق بأمان.

المصدر: https://znews.vn/ai-thua-lo-hoang-loan-khi-ban-hang-tu-dong-post1565445.html