احذر من الجانب المظلم للذكاء الاصطناعي

على الرغم من فوائده الجلية، يثير الذكاء الاصطناعي تساؤلات أخلاقية ملحة. والجدير بالذكر أن العديد من الإحصائيات في مجال البحث العلمي تُظهر أن إساءة استخدام الذكاء الاصطناعي قد تؤدي إلى تحيزات غير متوقعة.

ورشة عمل لتقديم أفكار لتطوير مشروع قانون الذكاء الاصطناعي. (صورة: هونغ نجوين)

لقد دفعت الحوادث الأخيرة المتعلقة بالتحيز وتزوير الوثائق العلماء إلى إعادة النظر في المستوى المناسب لمشاركة الذكاء الاصطناعي في البحث.

مؤخرًا، نشر الأستاذ الدكتور في اللغويات، نجوين فان هيب، على صفحته الشخصية قصةً صدمت القراء. فقد اكتشف أن الذكاء الاصطناعي زوّر وثائقه باستخدام معلومات أرسلها له صديق. كما اكتشف بالصدفة أن مقالة الأستاذ المشارك، الدكتور في العلوم ، تران فان كو، قد زوّرها الذكاء الاصطناعي أيضًا.

أصبح الذكاء الاصطناعي جزءًا لا غنى عنه في حياة الإنسان، ومع ذلك، يؤكد الخبراء دائمًا على ضرورة اعتباره أداةً داعمةً فحسب. يجب على مستخدمي الذكاء الاصطناعي أن يكونوا دائمًا على درايةٍ ووعيٍ لمعالجة البيانات وتقييم النتائج التي يتم الحصول عليها بعد "التعاون" معه. وفي مجال البحث العلمي تحديدًا، أظهرت العديد من الدراسات أن أكبر مشكلة يجب توخي الحذر بشأنها هي التحيز في البيانات والنماذج. فالذكاء الاصطناعي قد يكون متحيزًا، ويُشوّه نتائج التحليل، ويُثير التحيز أو التمييز، ويتلاعب بالمعلومات إذا لم يُسيطر عليه جيدًا.

على وجه الخصوص، يتطلب استخدام الذكاء الاصطناعي في أبحاث العلوم الاجتماعية مزيدًا من الحذر. فبما أن مجالات العلوم الاجتماعية، كالفلسفة واللغويات وعلم الأعراق والتاريخ وغيرها، تتخذ السلوك البشري والثقافة والسلوك البشري كأهداف بحثية، فإن البيانات غالبًا ما تكون مرتبطة ارتباطًا وثيقًا بالسياق الاجتماعي والثقافي الفيتنامي، بعمق ودقة. إذا كانت بيانات تدريب الذكاء الاصطناعي تعكس تحيزات تاريخية، فإن الخطر المحتمل يكمن في إمكانية استخلاص الذكاء الاصطناعي استنتاجات تُفاقم مشاكل عدم المساواة بين الجنسين أو الطبقة أو العرق أو المنطقة الجغرافية. ويزداد الخطر عند استخدام الذكاء الاصطناعي لتحليل السلوك البشري، أو الرد على استطلاعات الرأي المفتوحة، أو المشاركة في محتوى إعلامي.

وبحسب بعض خبراء العلوم الاجتماعية، تواجه الذكاء الاصطناعي حاليًا صعوبة في الوصول إلى مصادر البيانات المحمية بحقوق الطبع والنشر أو المدفوعة، مما يؤدي إلى تحديث المعلومات بشكل غير كامل.

غالبًا ما تحدث ظاهرة اختلاق الوثائق لخلق قصص معقولة في مواضيع أقل شيوعًا، وفي لغات ذات مصادر بيانات محدودة مثل الفيتنامية، ويجب التحذير منها لتنبيه المستخدمين. بشكل عام، أنظمة الذكاء الاصطناعي حاليًا محدودة للغاية في فهم السياقات الاجتماعية والثقافية، لذا فإن مساعدتها في تفسير معارف العلوم الاجتماعية الغامضة والغنية بالاستعارات ليست موثوقة حقًا.

على الرغم من أن الذكاء الاصطناعي يحمل الكثير من الإمكانات في مجال البحث العلمي، إلا أن تطبيقه يحتاج إلى أن يكون حذرًا للغاية، وله حدود، ويجب أن يسير دائمًا جنبًا إلى جنب مع قدرة التفكير النقدي للباحث.

يتضح أنه على الرغم من الإمكانات الهائلة التي يوفرها الذكاء الاصطناعي في البحث العلمي، إلا أن تطبيقه يجب أن يكون حذرًا للغاية ومحدودًا، وأن يكون دائمًا مصحوبًا بالقدرة النقدية للباحث. يجب على الباحث الذي يستخدم الذكاء الاصطناعي أن يُحدد بوضوح هذه القيود في استخدامه، مع ضمان عدم تأثيره على القيم الأساسية للعلم. ولحماية نزاهة البحث العلمي، يجب الارتقاء بدور العلماء ومسؤولياتهم إلى مستوى جديد. بالإضافة إلى ذلك، من الضروري اقتراح إطار أخلاقي ملزم قانونًا للذكاء الاصطناعي في سياق الثقافة والتقاليد والأعراف الاجتماعية الفيتنامية.

لدينا نظامٌ من تسعة مبادئ لتعزيز البحث والتطوير لأنظمة ذكاء اصطناعي آمنة ومسؤولة، والحد من الآثار السلبية، والسيطرة على المخاطر، اقترحته وزارة العلوم والتكنولوجيا ، ويؤكد على أمن البيانات، واحترام حقوق الإنسان وكرامته، ومساءلة مستخدمي الذكاء الاصطناعي. وفي مجال البحث العلمي تحديدًا، أصدر مجلس الدولة للأساتذة النشرة الرسمية رقم 25/HDGSNN عام 2023، طالبًا من مجالس أساتذة الصناعة والجهات المعنية بتقييم جودة الأعمال العلمية إيلاء اهتمام خاص لاكتشاف وتقييم الأعمال التي تستخدم تقنية الذكاء الاصطناعي أو التي تعتمد عليها. وتهدف هذه المتطلبات إلى ضمان أن نتائج البحث باستخدام الذكاء الاصطناعي لا تزال تُلبي المعايير العلمية، ومنع إساءة استخدام الذكاء الاصطناعي في البحث العلمي والنشر.

وفي الفترة المقبلة، عندما يتم إصدار قانون الذكاء الاصطناعي، مع اللوائح الصارمة المتعلقة بالأخلاق والمسؤولية في استخدام الذكاء الاصطناعي، فإنه سيساهم في خلق بيئة صحية لتطوير الذكاء الاصطناعي، وتوفير دعم أكثر نشاطا ومسؤولية للعلماء في العمل البحثي.

مهرجان الرقص

المصدر: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html