مع تزايد المعلومات المضللة، هل يجب علينا البحث وسؤال الذكاء الاصطناعي؟

في عصرٍ يستطيع فيه الذكاء الاصطناعي الإجابة على أي سؤال في ثوانٍ، يظنّ الكثيرون أن الذكاء الاصطناعي مصدرٌ للمعرفة الدقيقة. ولكن إذا كانت المعلومات المدخلة خاطئة، فهل يستطيع الذكاء الاصطناعي توليد الإجابة الصحيحة؟

هل المعلومات من الذكاء الاصطناعي صحيحة دائما؟

في عالم تختلط فيه المعلومات، فإن الاعتماد فقط على الذكاء الاصطناعي لإخبار الحقيقة يعد مخاطرة.

الذكاء الاصطناعي لا يفرق بين الصواب والخطأ، فهو يعكس البيانات فقط.

وفقًا لموقع Tuoi Tre Online ، يُدرَّب الذكاء الاصطناعي باستخدام كمية هائلة من البيانات المُجمَّعة من الإنترنت، حيث توجد معارف تقليدية ونظريات مؤامرة. لا يُفرِّق الذكاء الاصطناعي بين الحقيقة والزيف، بل يُسجِّل أنماط اللغة فقط ويستجيب بناءً على ما يتعلمه. إذا احتوت معلومات التدريب على أخطاء أو تحيُّزات، فسيعكسها الذكاء الاصطناعي في الإجابة.

بالإضافة إلى البيانات الأصلية، فإن ما يُدخله المستخدم في السؤال يؤثر بشكل مباشر على دقته. فالسؤال الخاطئ، وإن كان مُقدمًا بشكل جيد، سيكون من الأسهل... جعل الذكاء الاصطناعي "يعتقد أنه صحيح" ويولد إجابات خاطئة وفقًا لذلك.

وعلى وجه الخصوص، إذا طلب المستخدم ردود فعل تؤكد شيئًا غير صحيح، فإن الذكاء الاصطناعي يمكن أن "يستجيب" لها لأن هدفه هو توليد استجابة دلالية، وليس التحقق من الحقيقة.

لهذا السبب أيضًا، يستطيع الذكاء الاصطناعي "التحدث بطلاقة، مع وجود أخطاء واضحة". فهو لا يُميّز بين الصواب والخطأ كالبشر، بل يتنبأ فقط بالكلمة التالية الأكثر احتمالًا. وهذا يؤدي إلى ظاهرة يُطلق عليها الباحثون "الهلوسة"، عندما يُنشئ الذكاء الاصطناعي معلومات مُضلّلة تبدو معقولة. يُمكن "اختلاق" اسم، أو حدث، أو حتى دراسة علمية إذا لم يتمكن الذكاء الاصطناعي من العثور على البيانات الصحيحة.

متى يكون الذكاء الاصطناعي "على حق" في بحر من المعلومات المضللة؟

على الرغم من أنها غير قادرة على التعرف على الحقيقة بنفسها، إلا أن الذكاء الاصطناعي لا يزال قادرًا على توليد استجابات دقيقة في ظل ظروف معينة.

عندما يطلب السؤال دحض أو التحقق من معلومة خاطئة، فإن النموذج سوف يميل إلى إيجاد العبث ودحضه.

على سبيل المثال، إذا قدم مستخدم حجة مفادها "الأرض مسطحة وبالتالي لا يمكن أن تدور حولها أقمار صناعية"، وطلب التحليل، فسوف يرد عليه الذكاء الاصطناعي استنادًا إلى علم الجاذبية والمدارات.

تزداد قدرة الذكاء الاصطناعي على "الإتقان" أيضًا عند دمجه مع أدوات التحقق، مثل الوصول الفوري إلى البيانات الجديدة، والبحث عبر مصادر موثوقة، أو استخدام واجهات برمجة التطبيقات من مستودعات المعرفة الموثوقة. عندها، لا يعتمد الذكاء الاصطناعي فقط على المعرفة المُدرَّبة مسبقًا، بل يمكنه أيضًا تحديثها ومقارنتها بالواقع.

مع ذلك، يبقى الشرط الأساسي هو طريقة طرح المستخدم للمشكلة . إذا كان الموضوع خاطئًا منذ البداية، وطُلب من الذكاء الاصطناعي الكتابة بطريقة إيجابية، فسيميل النموذج إلى اتباعه، خاصةً إذا لم يُطلب منه الجدال. في هذه الحالة، قد يتوصل الذكاء الاصطناعي إلى محتوى خاطئ تمامًا، لكن اللغة تبقى سلسة وسهلة إقناع القارئ.

كلما أصبح الذكاء الاصطناعي أكثر ذكاءً، كلما احتاج المستخدمون إلى مزيد من اليقظة

لا يغني الذكاء الاصطناعي عن البشر في التحقق من الحقيقة. فرغم قدرته على إنتاج محتوى مقنع ومعقول، إلا أنه يفتقر إلى الضمير والأخلاق اللازمين للتمييز بين الصواب والخطأ.

ينبغي على المستخدمين اعتبار الذكاء الاصطناعي مُساعدًا مشروطًا، وليس مصدرًا للحقيقة المطلقة. كلما زادت دقة المعلومات المُدخلة، زادت موثوقية استجابة الذكاء الاصطناعي.

العودة إلى الموضوع

توان السادس

المصدر: https://tuoitre.vn/ngay-cang-nhieu-thong-tin-sai-co-nen-tim-kiem-hoi-ai-20250626101350386.htm