اقتراح لتشديد إجراءات الذكاء الاصطناعي عالية المخاطر فقط، وتجنب إعاقة الابتكار

ناقش نواب مجلس الأمة في قاعة المجلس، اليوم الثلاثاء 9 مايو/أيار، عددا من البنود المثيرة للجدل في مشروع قانون صناعة التكنولوجيا الرقمية . وعلى وجه الخصوص، لا تزال اللوائح المتعلقة بالذكاء الاصطناعي تتلقى العديد من التعليقات لضمان جدواها وتناسقها مع الممارسات الدولية.

وفي معرض مساهمته في جلسة المناقشة، قال المندوب دو نغوك ثينه (وفد خانه هوا ) إن تعريف الذكاء الاصطناعي في المادة 10، المادة 3 من مشروع القانون لا يعكس بدقة طبيعة التكنولوجيا ولا يتوافق مع النهج الدولي.

واقترح الرجوع إلى تعريف منظمة التعاون الاقتصادي والتنمية الذي اعتمدته العديد من الدول والاتحاد الأوروبي. وعليه، ينبغي فهم الذكاء الاصطناعي باعتباره "نظامًا قائمًا على الآلة يهدف إلى تحقيق هدف صريح أو ضمني من خلال التفكير من خلال بيانات الإدخال لإنتاج مخرجات في شكل تنبؤات أو توصيات أو قرارات تؤثر على بيئة مادية أو افتراضية".

مندوب دو نجوك ثينه (وفد خانه هوا).

وأكد المندوب ثينه أن توفير تعريف مناسب يشكل أساسًا مهمًا لبناء لوائح إدارية فعالة، مع تسهيل تطبيق التكنولوجيا في الممارسة العملية أيضًا.

وفيما يتعلق بتصنيف أنظمة الذكاء الاصطناعي (المادة 46)، أشار وفد خان هوا إلى أن اللوائح الحالية تشبه قانون الذكاء الاصطناعي للاتحاد الأوروبي ولكنها تحتوي أيضًا على نقاط غير واضحة. وفقًا للاتحاد الأوروبي، يتم تصنيف الذكاء الاصطناعي في المقام الأول وفقًا لمستوى المخاطر، من "غير مقبول" إلى "ضئيل". ومع ذلك، فإن مشروع فيتنام يضيف مجموعة من "أنظمة الذكاء الاصطناعي ذات التأثير العالي"، والتي قد تتداخل أو تتعارض مع المجموعة "عالية المخاطر".

وقال السيد ثينه "إذا لم يتم ربط هذا التصنيف بمسؤوليات محددة في أحكام أخرى، فسيكون من الصعب تنفيذه وسيفتقر إلى الاتساق". وفي الوقت نفسه، يوصى بتوضيح فلسفة التصنيف والتأكد من أن اللوائح تنطبق فقط على أنظمة الذكاء الاصطناعي عالية المخاطر، وتجنب التشديد غير الضروري على الأنظمة منخفضة المخاطر، وبالتالي دعم الابتكار واستغلال إمكانات التكنولوجيا بشكل فعال.

وفي تعليق له على عدم وضوح التنظيم، أشار المندوب لي ثي ثانه لام (وفد هاو جيانج) إلى أن تعريف أنظمة الذكاء الاصطناعي عالية المخاطر في الفقرة 1 من المادة 46 لا يزال عامًا، ولا يوفر معايير محددة مثل مستوى التأثير أو عدد المستخدمين أو سعة البيانات لتحديد المخاطر. وأضافت السيدة لام "بدون معايير محددة، سيكون من الصعب تنفيذ ذلك على أرض الواقع".

وأشارت السيدة لام أيضًا إلى أن اللوائح التفصيلية المفرطة بشأن التكنولوجيا قد لا تكون ضرورية، وبدلاً من ذلك ينبغي أن ينصب التركيز على إدارة سلوك استخدام التكنولوجيا. وعلى وجه الخصوص، عندما يتعلق الأمر بمسؤوليات مطوري الذكاء الاصطناعي في المادة 48، فهي تعتقد أن بعض الالتزامات تفرض عبئا كبيرا على هذا الموضوع، وخاصة في سياق تكنولوجيا المصدر المفتوح.

واقترح المندوب لوو با ماك (وفد لانغ سون) إضافة لوائح تتطلب فحص وتقييم أنظمة الذكاء الاصطناعي ذات مستويات المخاطر العالية أو التأثيرات الكبيرة على المجتمع من قبل منظمة مستقلة تعينها أو تعترف بها الدولة قبل وضعها موضع الاستخدام.

المندوب لوو با ماك (وفد لانغ سون).

في الوقت الحالي، تنص المادة 44 من مشروع القانون على ستة مبادئ فقط لتطوير الذكاء الاصطناعي واستخدامه، وتكلف الوزارات والفروع بتوجيه التنفيذ. وتتناول المادة 46 أيضًا إدارة أنظمة الذكاء الاصطناعي (بما في ذلك الأنظمة عالية المخاطر وعالية التأثير)، لكنها لا تنص بوضوح على آلية مراجعة مستقلة قبل النشر.

وعلى الرغم من أن الفقرة 5، المادة 46 تنص على أن الحكومة ستقدم لوائح مفصلة، ​​إلا أنه وفقًا للسيد ماك، يجب أن يكون هناك مبدأ واضح في القانون بشأن التفتيش المستقل، من أجل زيادة الشفافية وفعالية إدارة الدولة وخلق راحة البال للأشخاص والشركات عند استخدام الذكاء الاصطناعي، وخاصة في سياق التحول الرقمي الحالي.

وفيما يتعلق بالبند 1، المادة 47، ينص المشروع على أن أنظمة الذكاء الاصطناعي التي تتفاعل مباشرة مع البشر يجب أن تُخطر المستخدمين، ما لم يكن المستخدم "يعلم بوضوح" أنه يتفاعل مع الذكاء الاصطناعي.

وبحسب وفد لانغ سون، فإن هذا التعبير غير واضح لأن "المعرفة الواضحة" هو مفهوم شخصي، يعتمد على مستوى كل شخص وخبرته وظروفه. يمكن للأشخاص المهتمين بالتكنولوجيا التعرف بسهولة على الذكاء الاصطناعي، ولكن كبار السن غير المهتمين بالتكنولوجيا لا يستطيعون ذلك. وبناءً على ذلك، فمن الممكن أن يتم استغلال هذا التعبير لإخفاء طبيعة الذكاء الاصطناعي، مما يتسبب في ضرر للمستخدمين.

ولذلك، اقترح السيد ماك مراجعة اللائحة في الاتجاه الذي يتعين فيه على أنظمة الذكاء الاصطناعي التي تتفاعل مع البشر إخطار المستخدمين بوضوح وسهولة بأنها تتفاعل مع الذكاء الاصطناعي. يجب تمكين هذا الإشعار بشكل افتراضي، وليس إخفاؤه أو تعطيله تلقائيًا ما لم يختار المستخدم تعطيله بنشاط.

مينه ثو

المصدر: https://doanhnghiepvn.vn/cong-nghe/de-xuat-chi-siet-chat-ai-co-rui-ro-cao-tranh-can-tro-doi-moi-sang-tao/20250510094811591