يقوم برنامجا ChatGPT و DeepSeek بتشويه البيانات العلمية.

أصدرت مجموعة من الباحثين في ألمانيا مؤخرًا تحذيرًا بشأن احتمالية التحيز في استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي لاختصار محتوى الأبحاث. بعد تحليل 4900 ملخص علمي مكتوب يدويًا، استخدمت المجموعة نماذج ذكاء اصطناعي متنوعة لمقارنة كيفية معالجة هذه الأنظمة للمعلومات. وأظهرت النتائج أن معظم روبوتات الدردشة وقعت في خطأ التعميم المفرط، حتى عند مطالبتها بالتلخيص بدقة.

يمكن للذكاء الاصطناعي بسهولة تشويه المحتوى عند تلخيص الأبحاث العلمية.

في التجارب، ارتكبت نماذج الذكاء الاصطناعي أخطاءً أكثر بخمس مرات من الباحثين البشريين عندما تُركت دون توجيه. وحتى مع وجود متطلبات واضحة للدقة، ظل معدل الخطأ ضعف معدله في حالة استخدام ملخص قياسي. وعلق أحد أعضاء فريق البحث قائلاً: "قد يبدو التعميم غير ضار في بعض الأحيان، ولكنه في الواقع يغير طبيعة البحث الأصلي. إنه تحيز منهجي".

والجدير بالذكر أن الإصدارات الأحدث من برامج الدردشة الآلية لا تفشل فقط في معالجة المشكلة، بل تزيدها سوءًا. فبفضل أسلوبها السلس والجذاب، تُعطي الملخصات التي يُنشئها الذكاء الاصطناعي انطباعًا بالمصداقية، بينما يكون المحتوى الفعلي مُشوَّهًا. فعلى سبيل المثال، غيّر برنامج DeepSeek عبارة "آمن وقابل للتطبيق بنجاح" إلى "علاج آمن وفعال"، وهو تفسير يتعارض مع استنتاجات الدراسة الأصلية.

قد يعجبك أيضاً

لأول مرة، أصبح لدى فيتنام ضابط يشغل منصباً رفيعاً في مهمة لحفظ السلام.أقامت وزارة الدفاع الوطني حفلاً لتقديم قرارات الرئيس ووزير الدفاع الوطني إلى ثلاثة ضباط يخدمون في بعثة الأمم المتحدة لحفظ السلام في جنوب السودان.

ستتوقف شركة سوني عن إصدار ألعاب بلاي ستيشن على أقراص ابتداءً من عام 2028.ستتوقف شركة سوني عن إنتاج أقراص ألعاب بلاي ستيشن الجديدة ابتداءً من يناير 2028، مما يمثل تحولاً كبيراً نحو التوزيع الرقمي.

Dien Bien: التنفيذ التجريبي لأربعة إجراءات إدارية في إطار آلية "المسار الأخضر" على مستوى البلدية.لتعزيز التنفيذ الفعال للامركزية وتفويض السلطة في التعامل مع الإجراءات الإدارية، قررت اللجنة الشعبية لمقاطعة ديان بيان السماح للبلديات بتجربة تنفيذ أربعة إجراءات إدارية في إطار آلية "المسار الأخضر".

في مثال آخر، طبّق نموذج اللاما توصياتٍ لعلاج داء السكري على صغار السن دون تحديد الجرعة أو التكرار أو الآثار الجانبية. إذا لم يتحقق القارئ، سواءً كان طبيباً أو متخصصاً في الرعاية الصحية ، من صحة هذه الملخصات بالرجوع إلى الدراسة الأصلية، فقد تُشكّل هذه الأنواع من الملخصات خطراً مباشراً على المرضى.

يعتقد الخبراء أن هذه الظاهرة تنبع من طريقة تدريب نماذج الذكاء الاصطناعي. فالعديد من برامج الدردشة الآلية الحالية تُدرَّب باستخدام بيانات ثانوية، مثل الأخبار العلمية المنشورة على نطاق واسع، والتي سبق تبسيطها. ومع استمرار الذكاء الاصطناعي في تلخيص هذا المحتوى المبسط، يزداد خطر التشويه.

يؤكد خبراء الذكاء الاصطناعي في مجال الصحة العقلية على ضرورة وضع حواجز تقنية أمام تطوير واستخدام الذكاء الاصطناعي في أقرب وقت.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

ينبغي على المستخدمين توخي الحذر لأن برامج الدردشة الآلية يمكنها بسهولة تشويه المحتوى.

مع تزايد اعتماد المستخدمين على روبوتات الدردشة المدعومة بالذكاء الاصطناعي لتعلم المعلومات العلمية، قد تتراكم الأخطاء الصغيرة في التفسير وتنتشر بسرعة، مما يؤدي إلى مفاهيم خاطئة واسعة النطاق. وفي وقت يتراجع فيه مستوى الثقة بالعلم، يُعد هذا الخطر مثيرًا للقلق بشكل خاص ويتطلب اهتمامًا بالغًا.

الولايات المتحدة - فيتنام: لا تفوّت

تعزيز الصداقة بين فيتنام والولايات المتحدة.في الثالث من يوليو، وكجزء من برنامج الشراكة في المحيط الهادئ - أصدقاء المحيط الهادئ 2026، قام وفد جيش الولايات المتحدة في المحيط الهادئ، بقيادة الفريق جويل فويل، نائب قائد جيش الولايات المتحدة في المحيط الهادئ، بزيارة مجاملة إلى القيادة العسكرية الإقليمية في كوانغ تري.

قام وفد من جيش الولايات المتحدة في المحيط الهادئ بزيارة قيادة مقاطعة كوانغ تري العسكرية.يمثل عام 2026 المرة الأولى التي سيتم فيها تنظيم برنامج الشراكة في المحيط الهادئ - أصدقاء المحيط الهادئ بشكل مشترك في كوانغ تري، مما يخلق إطار تعاون واسع النطاق يضم 25 نشاطًا.

تلقت وزارة الخارجية نسخة من خطاب اعتماد سفير الولايات المتحدة لدى فيتنام.في ظهيرة يوم 2 يوليو، في مقر وزارة الخارجية، استلم السيد لي كونغ دونغ، مدير إدارة المراسم الرسمية والترجمة الأجنبية، نسخة من خطاب الاعتماد من السيدة جينيفر ويكس، سفيرة الولايات المتحدة الأمريكية لدى فيتنام.

يُعدّ دمج الذكاء الاصطناعي في البحث ونشر المعرفة اتجاهاً لا رجعة فيه. ومع ذلك، يؤكد الخبراء أن التكنولوجيا لا يمكنها أن تحل محل دور الإنسان في فهم المحتوى العلمي والتحقق منه. عند استخدام روبوتات المحادثة في مجالات عالية المخاطر كالرعاية الصحية، يجب إعطاء الأولوية للدقة، بدلاً من التركيز فقط على سلاسة اللغة أو سرعة الاستجابة.

المصدر: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html