يقوم برنامجا ChatGPT و DeepSeek بتشويه البيانات العلمية.

أصدرت مجموعة من الباحثين في ألمانيا مؤخرًا تحذيرًا بشأن احتمالية التحيز في استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي لاختصار محتوى الأبحاث. بعد تحليل 4900 ملخص علمي مكتوب يدويًا، استخدمت المجموعة نماذج ذكاء اصطناعي متنوعة لمقارنة كيفية معالجة هذه الأنظمة للمعلومات. وأظهرت النتائج أن معظم روبوتات الدردشة وقعت في خطأ التعميم المفرط، حتى عند مطالبتها بالتلخيص بدقة.

يمكن للذكاء الاصطناعي بسهولة تشويه المحتوى عند تلخيص الأبحاث العلمية.

في التجارب، ارتكبت نماذج الذكاء الاصطناعي أخطاءً أكثر بخمس مرات من الباحثين البشريين عندما تُركت دون توجيه. وحتى مع وجود متطلبات واضحة للدقة، ظل معدل الخطأ ضعف معدله في حالة استخدام ملخص قياسي. وعلق أحد أعضاء فريق البحث قائلاً: "قد يبدو التعميم غير ضار في بعض الأحيان، ولكنه في الواقع يغير طبيعة البحث الأصلي. إنه تحيز منهجي".

والجدير بالذكر أن الإصدارات الأحدث من برامج الدردشة الآلية لا تفشل فقط في معالجة المشكلة، بل تزيدها سوءًا. فبفضل أسلوبها السلس والجذاب، تُعطي الملخصات التي يُنشئها الذكاء الاصطناعي انطباعًا بالمصداقية، بينما يكون المحتوى الفعلي مُشوَّهًا. فعلى سبيل المثال، غيّر برنامج DeepSeek عبارة "آمن وقابل للتطبيق بنجاح" إلى "علاج آمن وفعال"، وهو تفسير يتعارض مع استنتاجات الدراسة الأصلية.

قد يعجبك أيضاً

السر الكامن وراء "شلالات الدم" في القطب الجنوبي: لقد وُجدت الحياة لأكثر من 1.5 مليون سنة، بدون أكسجين أو ضوء.اكتشف العلماء نظامًا بيئيًا ميكروبيًا صمد لأكثر من 1.5 مليون سنة تحت الغطاء الجليدي في القطب الجنوبي، وازدهر بدون أكسجين أو ضوء.

تتعاون لاتفيا مع أوكرانيا لافتتاح مصنع لتصنيع الطائرات بدون طيار بالقرب من الحدود الروسية.لطالما اعتُبرت منطقة لاتغال، حيث سيتم بناء مصنع تصنيع الطائرات بدون طيار الجديد، واحدة من أكثر المناطق تضرراً اقتصادياً في لاتفيا.

تم الكشف عن ورقة الردع النووي الأمريكية الرابحة في المستقبل.لأول مرة، نشرت شركة نورثروب غرومان صوراً لأخطر الصواريخ الباليستية العابرة للقارات التي تخطط الولايات المتحدة لاستخدامها على مدى الخمسين عاماً القادمة.

في مثال آخر، طبّق نموذج اللاما توصياتٍ لعلاج داء السكري على صغار السن دون تحديد الجرعة أو التكرار أو الآثار الجانبية. إذا لم يتحقق القارئ، سواءً كان طبيباً أو متخصصاً في الرعاية الصحية ، من صحة هذه الملخصات بالرجوع إلى الدراسة الأصلية، فقد تُشكّل هذه الأنواع من الملخصات خطراً مباشراً على المرضى.

يعتقد الخبراء أن هذه الظاهرة تنبع من طريقة تدريب نماذج الذكاء الاصطناعي. فالعديد من برامج الدردشة الآلية الحالية تُدرَّب باستخدام بيانات ثانوية، مثل الأخبار العلمية المنشورة على نطاق واسع، والتي سبق تبسيطها. ومع استمرار الذكاء الاصطناعي في تلخيص هذا المحتوى المبسط، يزداد خطر التشويه.

يؤكد خبراء الذكاء الاصطناعي في مجال الصحة العقلية على ضرورة وضع حواجز تقنية أمام تطوير واستخدام الذكاء الاصطناعي في أقرب وقت.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

ينبغي على المستخدمين توخي الحذر لأن برامج الدردشة الآلية يمكنها بسهولة تشويه المحتوى.

مع تزايد اعتماد المستخدمين على روبوتات الدردشة المدعومة بالذكاء الاصطناعي لتعلم المعلومات العلمية، قد تتراكم الأخطاء الصغيرة في التفسير وتنتشر بسرعة، مما يؤدي إلى مفاهيم خاطئة واسعة النطاق. وفي وقت يتراجع فيه مستوى الثقة بالعلم، يُعد هذا الخطر مثيرًا للقلق بشكل خاص ويتطلب اهتمامًا بالغًا.

الولايات المتحدة - فيتنام: لا تفوّت

تلقت وزارة الخارجية نسخة من خطاب اعتماد سفير الولايات المتحدة لدى فيتنام.في ظهيرة يوم 2 يوليو، في مقر وزارة الخارجية، استلم السيد لي كونغ دونغ، مدير إدارة المراسم الرسمية والترجمة الأجنبية، نسخة من خطاب الاعتماد من السيدة جينيفر ويكس، سفيرة الولايات المتحدة الأمريكية لدى فيتنام.

قام السفير نغوين كوك دونغ بزيارة ولاية مينيسوتا الأمريكية وعمل فيها.في الفترة من 28 إلى 30 يونيو، قام السفير الفيتنامي لدى الولايات المتحدة، نغوين كوك دونغ، بزيارة وعمل في مينيسوتا.

تشجع فيتنام الشركات الأمريكية على توسيع استثماراتها في التكنولوجيا المتقدمة.في صباح يوم 26 يونيو، استقبل نائب رئيس الوزراء هو كوك دونغ، في مقر الحكومة، السيد جيف بليس، مدير سلسلة التوريد في مجموعة كوهيرنت (الولايات المتحدة الأمريكية). وخلال اللقاء، أكد نائب رئيس الوزراء أن فيتنام تشجع الشركات الأمريكية على توسيع استثماراتها، لا سيما في قطاعات التكنولوجيا المتقدمة والابتكار وأشباه الموصلات.

يُعدّ دمج الذكاء الاصطناعي في البحث ونشر المعرفة اتجاهاً لا رجعة فيه. ومع ذلك، يؤكد الخبراء أن التكنولوجيا لا يمكنها أن تحل محل دور الإنسان في فهم المحتوى العلمي والتحقق منه. عند استخدام روبوتات المحادثة في مجالات عالية المخاطر كالرعاية الصحية، يجب إعطاء الأولوية للدقة، بدلاً من التركيز فقط على سلاسة اللغة أو سرعة الاستجابة.

المصدر: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html