معلومات خاطئة كثيرة، هل يجب علينا البحث وسؤال الذكاء الاصطناعي؟

في عصرٍ يستطيع فيه الذكاء الاصطناعي الإجابة على أي سؤال في ثوانٍ، يظنّ الكثيرون أن الذكاء الاصطناعي مصدرٌ للمعرفة الدقيقة. ولكن إذا كانت المعلومات المدخلة خاطئة، فهل يستطيع الذكاء الاصطناعي توليد الإجابة الصحيحة؟

هل المعلومات من الذكاء الاصطناعي صحيحة دائما؟

في عالم تختلط فيه المعلومات، فإن الاعتماد فقط على الذكاء الاصطناعي لإخبار الحقيقة يعد مخاطرة.

الذكاء الاصطناعي لا يفرق بين الصواب والخطأ، فهو يعكس البيانات فقط.

وفقًا لموقع Tuoi Tre Online ، يُدرَّب الذكاء الاصطناعي باستخدام كمية هائلة من البيانات المُجمَّعة من الإنترنت، حيث توجد معارف تقليدية ونظريات مؤامرة. لا يستطيع الذكاء الاصطناعي التمييز بين الحقيقة والزيف، بل يُسجِّل أنماط اللغة فقط ويستجيب بناءً على ما يتعلمه. إذا احتوت معلومات التدريب على أخطاء أو تحيُّزات، فسيعكس الذكاء الاصطناعي ذلك في استجابته.

بالإضافة إلى البيانات الأصلية، فإن ما يُدخله المستخدم في السؤال يؤثر بشكل مباشر على دقته. فالسؤال الخاطئ، وإن كان مُقدمًا بشكل جيد، سيكون أسهل في الإجابة. يجعل الذكاء الاصطناعي "يعتقد أن هذا صحيح" ويولد إجابات خاطئة وفقًا لذلك.

وعلى وجه الخصوص، إذا طلب المستخدم ردود فعل تؤكد شيئًا غير صحيح، فإن الذكاء الاصطناعي يمكن أن "يستجيب" لها لأن هدفه هو توليد استجابة دلالية، وليس التحقق من الحقيقة.

لهذا السبب أيضًا، يستطيع الذكاء الاصطناعي "التحدث بطلاقة، لكن مع وجود أخطاء واضحة". فهو لا يُميّز بين الصواب والخطأ كالبشر، بل يتنبأ فقط بالكلمة التالية الأكثر احتمالًا. وهذا يؤدي إلى ظاهرة يُطلق عليها الباحثون "الهلوسة"، حيث يُنشئ الذكاء الاصطناعي معلومات مُضلّلة تبدو معقولة. يُمكن "اختلاق" اسم، أو حدث، أو حتى دراسة علمية إذا لم يتمكن الذكاء الاصطناعي من العثور على بيانات حقيقية تُطابقها.

متى يكون الذكاء الاصطناعي "على حق" في بحر من المعلومات المضللة؟

على الرغم من أن الذكاء الاصطناعي غير قادر على التعرف على نفسه، إلا أنه لا يزال قادرًا على توليد استجابات دقيقة في ظل ظروف معينة.

عندما يطلب السؤال دحض أو التحقق من معلومات خاطئة، فإن النموذج سوف يميل إلى العثور على العبث ودحضه.

على سبيل المثال، إذا طرح مستخدم حجة مفادها "الأرض مسطحة وبالتالي لا يمكن أن تدور حولها أقمار صناعية"، وطلب التحليل، فسوف يدحضه الذكاء الاصطناعي استنادًا إلى علم الجاذبية والمدارات.

تزداد قدرة الذكاء الاصطناعي على "الإتقان" أيضًا إذا تضمّن أدوات للتحقق، مثل الوصول الفوري إلى البيانات الجديدة، والبحث عبر مصادر موثوقة، أو استخدام واجهات برمجة التطبيقات من مستودعات المعرفة الموثوقة. عندها، لا يعتمد الذكاء الاصطناعي فقط على المعرفة المُدرّبة مسبقًا، بل يُحدّثها أيضًا ويقارنها بالواقع.

مع ذلك، يبقى الشرط الأساسي هو طريقة طرح المستخدم للمشكلة . إذا كان الموضوع خاطئًا منذ البداية، وطُلب من الذكاء الاصطناعي الكتابة بطريقة إيجابية، فسيميل النموذج إلى الامتثال، خاصةً إذا لم يُطلب منه الجدال. في هذه الحالة، قد يُنتج الذكاء الاصطناعي محتوى خاطئًا تمامًا، لكن اللغة ستظل سلسة وسهلة الوثوق بالقارئ.

كلما أصبح الذكاء الاصطناعي أكثر ذكاءً، كلما احتاج المستخدمون إلى مزيد من اليقظة

لا يغني الذكاء الاصطناعي عن البشر في التحقق من الحقيقة. فرغم قدرته على إنتاج محتوى مقنع ومعقول، إلا أنه يفتقر إلى الضمير والأخلاق اللازمين للتمييز بين الصواب والخطأ.

ينبغي على المستخدمين اعتبار الذكاء الاصطناعي مُساعدًا مشروطًا، وليس مصدرًا للحقيقة المطلقة. كلما زادت دقة المعلومات المُدخلة، زادت موثوقية استجابة الذكاء الاصطناعي.

العودة إلى الموضوع

توان السادس

المصدر: https://tuoitre.vn/ngay-cang-nhieu-thong-tin-sai-co-nen-tim-kiem-hoi-ai-20250626101350386.htm