يستجيب ChatGPT بـ "نعم أو لا" للتشخيص الخاطئ، ومحاكاة التعاطف

فيما يلي محتوى مقال كتبه المراسل نيلسون أغيلار، مترجم من موقع أخبار التكنولوجيا CNET، حول الموضوعات التي لا ينبغي للمستخدمين الاعتماد على ChatGPT للتعامل معها.

1. تشخيص المشاكل الصحية

كنتُ أُدخل أعراضي في ChatGPT بدافع الفضول، لكن الإجابات التي كنتُ أحصل عليها كانت مُرعبة في بعض الأحيان. أثناء تصفحي لقائمة التشخيصات المُحتملة، تراوحت النتائج بين الجفاف والإنفلونزا و... السرطان. في إحدى المرات، كان لديّ ورم في صدري، فأدخلتُ تلك المعلومات في ChatGPT. والنتيجة: ظنّ الذكاء الاصطناعي أنني قد أُصاب بالسرطان.

لكن في الواقع، شخصني الطبيب بالورم الشحمي، وهو ورم حميد شائع جدًا (يحدث في 1/1000 شخص).

لا أنكر فائدة ChatGPT في مجال الصحة: إذ يُمكن للذكاء الاصطناعي مساعدتك في صياغة أسئلة موعدك القادم، أو ترجمة المصطلحات الطبية المُربكة، أو إنشاء جدول زمني للأعراض لتكون أكثر استعدادًا. هذا قد يُخفف من إرهاق زيارات الطبيب. لكن الذكاء الاصطناعي لا يُمكنه إجراء فحوصات الدم، ولا الفحوصات الجسدية، ولا يُمكن تغطيته بتأمين المسؤولية المهنية. يجب فهم حدوده.

2. رعاية الصحة العقلية

قد يقترح ChatGPT بعض أساليب التهدئة، لكنه بالتأكيد لن يكون قادرًا على مساعدتك في أوقات الأزمات العاطفية. أعرف أشخاصًا يستخدمون ChatGPT كـ"علاج بديل". وقد وجد مراسل CNET، كورين سيزاريك ، أنه مفيد نوعًا ما في التعامل مع الحزن، شريطة مراعاة حدود الأداة.

لكن بصفتي شخصًا يخضع حاليًا للعلاج النفسي مع معالج، أؤكد أن ChatGPT مجرد تقليد باهت، وقد يكون خطيرًا للغاية في بعض الأحيان. ليس لدى ChatGPT أي خبرة حياتية، ولا يستطيع قراءة لغة جسدك أو نبرة صوتك، ولا يمتلك أي تعاطف حقيقي. إنه مجرد محاكاة للتعاطف.

بينما يعمل المعالج المحترف وفقًا لقوانين ومدونات أخلاقية مصممة لحمايتك، لا يفعل ChatGPT ذلك. قد تكون نصائحه متحيزة، أو تغفل عن مؤشرات الخطر، أو تعزز التحيزات في بيانات التدريب عن غير قصد. دع الأمور للبشر، فالمسائل العميقة والحساسة والمعقدة.

لا ينبغي للمستخدمين أن يثقوا بشكل كامل في إجابات ChatGPT على المشكلات الصحية وحالات الطوارئ.

3. اتخاذ القرارات في حالات الطوارئ

إذا انطلق إنذار أول أكسيد الكربون، فلا تفتح ChatGPT لتسأل إن كنت في خطر. غادر المنزل أولًا، ثم اطرح الأسئلة لاحقًا. نموذج الذكاء الاصطناعي لا يشم رائحة الغاز، ولا يكتشف الدخان، ولن يتصل بإدارة الإطفاء نيابةً عنك.

في حالات الطوارئ، كل ثانية تكتبها هي ثانية لا تُخلى فيها أو تتصل برقم الطوارئ 911 (رقم الطوارئ الوطني في الولايات المتحدة). يعمل ChatGPT فقط بناءً على ما تكتبه - وفي حالات الطوارئ، غالبًا ما تكون هذه المعلومات قليلة جدًا ومتأخرة جدًا. استخدم ChatGPT لشرح ما بعد الحادث، وليس لخدمة "المستجيب الأول".

4. التخطيط المالي أو الضريبي الشخصي

يستطيع ChatGPT شرح ماهية صندوق الاستثمار المتداول (ETF)، ولكنه لا يعرف حجم ديونك، أو الشريحة الضريبية التي تنتمي إليها، أو حالة ملفك الضريبي، أو أهدافك التقاعدية. وقد تكون البيانات التي يعتمد عليها قديمة، خاصةً مع تحديثات قانون الضرائب أو تعديلات أسعار الفائدة الأخيرة.

عندما يتعلق الأمر بالأموال الحقيقية والمواعيد النهائية وعقوبات مصلحة الضرائب المحتملة، فاتصل بخبير، وليس بذكاء اصطناعي. كما تجدر الإشارة إلى أن أي معلومات تُدخلها في الذكاء الاصطناعي قد تُخزَّن وتُستخدم لتدريب النموذج.

يحظى ChatGPT بأكثر من 5 مليارات زيارة شهريًا. (المصدر: Explodingtopics)

5. التعامل مع البيانات السرية أو الخاضعة للرقابة

بصفتي صحفيًا متخصصًا في التكنولوجيا، أتلقى الكثير من البيانات الصحفية التي تتضمن بنودًا لعدم الإفصاح. لكنني لم أفكر قط في وضع هذه الوثائق في ChatGPT لتلخيصها أو تفسيرها. لأنه لو فعلتُ ذلك، فسيخرج المحتوى عن سيطرتي وينتهي به المطاف على خادم تابع لجهة خارجية، خارج نطاق القيود القانونية لاتفاقية عدم الإفصاح.

ينطبق الخطر نفسه على عقود العملاء والسجلات الطبية، إلخ. ويشمل ذلك أيضًا الإقرارات الضريبية وشهادات الميلاد ورخص القيادة وجوازات السفر. بمجرد إدخال معلومات حساسة في ChatGPT، لا يمكنك التأكد من مكان تخزينها، ومن يمكنه الاطلاع عليها، وما إذا كانت تُستخدم لتدريب نماذج مستقبلية. كما أن ChatGPT ليس بمنأى عن المتسللين أو تهديدات الأمن السيبراني.

6. القيام بشيء غير قانوني

بالطبع!

7. الغش في المدرسة

لن أتظاهر بالنزاهة - استخدمتُ جهاز iPod Touch الخاص بي لأُلقي نظرة خاطفة على بعض معادلات الرياضيات المعقدة في امتحان حساب التفاضل والتكامل المتقدم (AP Calculus) في المدرسة الثانوية. ولكن من حيث النطاق، فقد ارتقى الذكاء الاصطناعي بالغش إلى مستوى جديد كليًا.

برامج مكافحة الانتحال، مثل Turnitin، تتطور في كشف النصوص المُولّدة بواسطة الذكاء الاصطناعي. الإيقاف عن الدراسة، أو الطرد، أو إلغاء الشهادات كلها نتائج محتملة. يجب أن يكون ChatGPT مساعدًا للتعلم، لا مساعدًا في الواجبات المنزلية. إذا تركت الذكاء الاصطناعي يقوم بكل العمل نيابةً عنك، فأنت تحرم نفسك من فرصة التعلم.

8. تابع الأخبار والمعلومات العاجلة

منذ أن أطلقت OpenAI برنامج ChatGPT Search في أواخر عام 2024 (مفتوح لجميع المستخدمين اعتبارًا من فبراير 2025)، أصبح برنامج المحادثة الآلي قادرًا على البحث عن مواقع ويب جديدة وأسعار الأسهم وأسعار الصرف ونتائج المباريات الرياضية وما إلى ذلك مع روابط المصدر التي يمكنك التحقق منها.

مع ذلك، لا يتم تحديثه باستمرار وبشكل فوري. كل تحديث يعني ضرورة كتابة أمر جديد. لذا، عندما تحتاج إلى معلومات فورية، أعطِ الأولوية للأخبار المباشرة، أو مواقع الأخبار الرسمية، أو البيانات الصحفية، أو إشعارات التطبيقات.

9. توقع النتيجة

لقد رأيتُ ChatGPT يُلفّق معلوماتٍ ويُقدّم بياناتٍ خاطئةً حول إحصائيات اللاعبين، والإصابات المُبلّغ عنها بشكلٍ خاطئ، وحتى سجلات الفوز والخسارة. لا يستطيع ChatGPT التنبؤ بنتيجة الغد.

10. صياغة وصية أو عقد قانوني

يُعد ChatGPT رائعًا لشرح المفاهيم الأساسية. ولكن إذا طلبت منه كتابة مستندات قانونية، فأنت تُخاطر كثيرًا، لأن القوانين ستختلف في أماكن عديدة.

اسمح لـ ChatGPT بمساعدتك في إنشاء قائمة من الأسئلة لمحاميك، ثم دع محاميًا حقيقيًا يصوغ مستندًا ملزمًا قانونًا.

11. ابتكر الفن

هذا مجرد رأي شخصي: لا أعتقد أنه ينبغي استخدام الذكاء الاصطناعي لإنتاج أعمال فنية حقيقية. لستُ ضده، وما زلتُ أستخدم ChatGPT لتبادل الأفكار أو ابتكار عناوين. لكنه أداة مساعدة، وليس بديلاً. استخدم ChatGPT إن أردت، ولكن لا تُنشئ أعمالاً فنية باستخدام الذكاء الاصطناعي وتدّعي ملكيتها لك. هذا... أمرٌ مزعج.

نغوك نجوين (المصدر: سي نت)

المصدر: https://vtcnews.vn/chatgpt-tra-loi-co-cung-nhu-khong-khi-chan-doan-sai-benh-gia-lap-su-dong-cam-ar953726.html