9 مبادئ للبحث والتطوير المسؤول في مجال الذكاء الاصطناعي

صورة توضيحية. المصدر: VNA

وعليه، يتم تشجيع الوكالات العلمية والتكنولوجية والمنظمات والشركات والأفراد المشاركين في البحث والتصميم والتطوير وتوفير أنظمة الذكاء الاصطناعي على تطبيق محتويات وثيقة التوجيه.

تم اقتراح تسعة مبادئ للبحث والتطوير في مجال أنظمة الذكاء الاصطناعي المسؤولة، بما في ذلك: روح التعاون، وتعزيز الابتكار؛ الشفافية؛ القدرة على التحكم؛ آمن؛ حماية؛ خصوصية؛ احترام حقوق الإنسان وكرامته؛ دعم المستخدم؛ المساءلة

لكل مبدأ تعليمات للتنفيذ. على سبيل المثال، فيما يتعلق بالشفافية، يحتاج المطورون إلى الاهتمام بالتحكم في مدخلات/مخرجات نظام الذكاء الاصطناعي والقدرة على شرح التحليلات ذات الصلة. وعليه، فإن أنظمة الذكاء الاصطناعي التي تتوافق مع هذا المبدأ هي عادة أنظمة يمكن أن تؤثر على حياة أو جسد أو خصوصية أو ممتلكات المستخدمين أو الأطراف الثالثة ذات الصلة.

ويحتاج المطورون بعد ذلك إلى الاهتمام بالقدرة على تحديد مدخلات ومخرجات أنظمة الذكاء الاصطناعي بوضوح، فضلاً عن القدرة على التفسير ذات الصلة بناءً على خصائص التكنولوجيا المطبقة وكيفية استخدامها لضمان ثقة المجتمع، بما في ذلك المستخدمين.

وأما فيما يتعلق بمبدأ احترام حقوق الإنسان وكرامته، فعند تطوير أنظمة الذكاء الاصطناعي التي تتضمن البشر، يتعين على المطورين إيلاء اهتمام خاص لاحترام حقوق الإنسان وكرامة الأفراد المعنيين.

يجب على المطورين، قدر الإمكان، واعتمادًا على خصائص التكنولوجيا المطبقة، اتخاذ التدابير اللازمة لضمان عدم التسبب في التمييز أو الظلم بسبب التحيز (الأحكام المسبقة) في البيانات عند تدريب أنظمة الذكاء الاصطناعي.

ويحتاج المطورون إلى اتخاذ الاحتياطات اللازمة لضمان عدم انتهاك أنظمة الذكاء الاصطناعي للقيم الإنسانية والأخلاق الاجتماعية وفقًا للمبادئ الأساسية لفيتنام (على سبيل المثال، القيم بما في ذلك الوطنية والتضامن والاعتماد على الذات والولاء والصدق والمسؤولية والانضباط والإبداع، وما إلى ذلك).

ومن المعروف أن نتائج التقييم والإعلان في تقرير "مؤشر جاهزية الذكاء الاصطناعي الحكومي" الذي أجرته شركة أكسفورد إنسايت، في عام 2023، ارتفعت فيتنام إلى المركز الخامس في رابطة دول جنوب شرق آسيا، متجاوزة الفلبين (بعد سنغافورة وماليزيا وتايلاند وإندونيسيا). في عام 2023، بلغ متوسط ​​درجة فيتنام 54.48 نقطة (في عام 2022 كان 53.96 وفي عام 2021 كان 51.82 نقطة)، متجاوزًا المتوسط ​​العالمي ، واحتلت المرتبة 59 من بين أكثر من 193 دولة ومنطقة (في عام 2022 احتلت المرتبة 55 من بين 181 دولة ومنطقة).

وبحسب وزارة العلوم والتكنولوجيا ، فإنه في السياق الحالي، من الضروري إجراء البحوث واتخاذ التدابير اللازمة لتقليل المخاطر في عملية تطوير واستخدام الذكاء الاصطناعي وموازنة العوامل الاقتصادية والأخلاقية والقانونية ذات الصلة. ولذلك، تحتاج الوكالات المهنية إلى البحث وتطوير المعايير والمبادئ التوجيهية، حتى لو كانت عبارة عن لوائح غير ملزمة.

وعلاوة على ذلك، فإن تبادل المعلومات حول العمليات وأفضل الممارسات بين أصحاب المصلحة (مثل المطورين ومقدمي الخدمات والمستخدمين) من شأنه أيضًا أن يعزز الإجماع على زيادة الفوائد من أنظمة الذكاء الاصطناعي والسيطرة على المخاطر.

درست وزارة العلوم والتكنولوجيا بشكل استباقي تجارب البلدان الأخرى والتوصيات من المنظمات مثل اليونسكو والأمم المتحدة ورابطة دول جنوب شرق آسيا ومجموعة السبع ومجموعة العشرين وما إلى ذلك لتطوير التوصيات والأدوات واللوائح المتعلقة بالأخلاقيات في الذكاء الاصطناعي، وتطوير منتجات الذكاء الاصطناعي المسؤولة (من البحث والتصميم والتطوير ونشر منتجات الذكاء الاصطناعي) وفقًا للممارسات واللوائح الحالية في فيتنام.

  وقال نائب وزير العلوم والتكنولوجيا بوي ذا دوي أيضًا إن تطوير المبادئ التوجيهية للبحث والتطوير المسؤول في مجال الذكاء الاصطناعي في فيتنام يحتاج إلى اتباع أهداف المجتمع الذي يركز على الإنسان عن كثب، حيث يتمتع الناس بفوائد الحياة وكذلك من أنظمة الذكاء الاصطناعي. وفي الوقت نفسه، ضمان التوازن المعقول بين فوائد ومخاطر أنظمة الذكاء الاصطناعي، وتحديدًا: تعزيز فوائد الذكاء الاصطناعي من خلال أنشطة البحث والتطوير والابتكار؛ وتقليل مخاطر انتهاك الحقوق أو المصالح المشروعة للمنظمات والأفراد من أنظمة الذكاء الاصطناعي.

ضمان أن تستند أنشطة البحث والتطوير لأنظمة الذكاء الاصطناعي إلى تقنيات أو أساليب محددة مع ضمان الحياد التكنولوجي وألا يتأثر المطورون بالتطور السريع للتقنيات المتعلقة بالذكاء الاصطناعي في المستقبل.

وأضافت وزارة العلوم والتكنولوجيا أن المبادئ والإرشادات ستستمر في البحث والتحديث لتناسب الوضع العملي.

المصدر: https://dangcongsan.vn/khoa-hoc/9-nguyen-tac-nghien-cuu-phat-trien-he-thong-ai-co-trach-nhiem-667349.html