وضع العلامات على المنتجات التي تم إنشاؤها بواسطة الذكاء الاصطناعي
أكد النائب نجوين تام هونغ (مدينة هو تشي منه) على أهمية آلية التحكم في مخاطر الذكاء الاصطناعي في حياتنا اليومية، وأعرب عن رأيه في ضرورة مشروع القانون الذي يُلزم الموردين بضمان وضع علامات قابلة للقراءة آليًا لمحتوى الذكاء الاصطناعي؛ ومع ذلك، اقترح النظر في إضافة شرط إلزامي لعرض معلومات التعريف مباشرةً على الواجهة التفاعلية عندما يكون المحتوى مُعرّضًا لخطر التشويش، وذلك لحماية المستخدمين العاديين، وخاصة الأطفال وكبار السن، من خطر المعلومات المضللة والتزييف العميق. يُعزز هذا التنظيم المسؤولية الاجتماعية لمُزوّدي التكنولوجيا، ويبني ثقة الناس الرقمية.
إلى جانب ذلك، صرّح النائب نجوين تام هونغ بأنه من خلال البحث، وجد أن نموذج الذكاء الاصطناعي متعدد الأغراض الحالي لا يُنتج نصوصًا أو صورًا فحسب، بل يُمكنه أيضًا توليد شيفرة مصدرية، وأدوات هجوم، وتعليمات تنفيذية، وعمليات هجوم إلكتروني، وأساليب احتيال مالي، وغيرها. ومن هنا، اقترح النائب إضافة التزام بالتحكم في "قدرة التوليد الذاتي" للنموذج عند السماح بتوليد شيفرة المصدر، وأن وجود آلية للتحذير والحظر والحد من المخرجات ضروري لضمان أمن الشبكة والنظام والسلامة الاجتماعية.
كما نظر النائب فام فان هوا ( دونج ثاب ) إلى المخاطر التي تسببها الذكاء الاصطناعي، وقال إنه على الرغم من أن تكنولوجيا الذكاء الاصطناعي هي أداة لدعم البشر، إلا أنها تجلب العديد من المخاطر العالية؛ وطلب النائب من لجنة الصياغة إجراء تقييم موضوعي ودقيق لهذه المسألة.
قال النائب فام فان هوا: "قد تؤثر هذه المخاطر على حياة الإنسان وممتلكاته وحقوقه ومصالحه المشروعة للمنظمات والأفراد"، مضيفًا أنه يجب وضع ملصقات على المنتجات التي يُنتجها الذكاء الاصطناعي. وأوضح أن وضع الملصقات يهدف إلى تعريف الناس بالمنتجات التي يُنتجها الذكاء الاصطناعي وتلك التي لا يُنتجها.
في غضون ذلك، قالت النائبة ترينه ثي تو آنه ( لام دونغ ) إن المادة 11 من مشروع القانون لا تعكس تمامًا مفهوم تقييم المخاطر بناءً على الآثار التكنولوجية. ووفقًا لها، في ظل الظروف الحالية، يمكن للذكاء الاصطناعي أن يُنتج أساليب ضارة لم تُحدد من قبل. لذلك، اقترحت النائبة ترينه ثي تو آنه إضافة بند ينص على: "يجب على الحكومة تحديد قائمة أنظمة الذكاء الاصطناعي التي تنطوي على مخاطر غير مقبولة بشكل مفصل، وتحديثها دوريًا، واستكمالها، بناءً على تقييم المخاطر، واتجاهات التكنولوجيا، ومتطلبات الإدارة العملية. ووفقًا لها، تضمن هذه الآلية عدم تقادم القانون، وقدرته على الاستجابة السريعة للمخاطر الجديدة.
تجنب إساءة استخدام الذكاء الاصطناعي
أثار النائب تران خانه ثو (هونغ ين) مسألة استخدام الذكاء الاصطناعي في دعم الفحص والعلاج الطبي، قائلاً إن الذكاء الاصطناعي لا يُسهم فقط في تحسين العمليات في القطاع الطبي، مما يُخفف العبء عن الأطباء والعاملين في المجال الطبي، بل يلعب أيضًا دورًا هامًا في تخصيص العلاج، مما يُحسّن نتائج الرعاية الصحية ويزيد من كفاءة استخدام الموارد. ومع ذلك، فإن استخدام الذكاء الاصطناعي للكشف عن العلامات الصحية قد يُؤدي أحيانًا إلى نتائج عكسية.
استشهدت المندوبة بمثال واقعي لمريض يبلغ من العمر 55 عامًا في مدينة هو تشي منه، كان في حالة خمول عند نقله إلى المستشفى. قبل ذلك، استخدمت عائلة المريض الذكاء الاصطناعي للتشخيص، ثم اشترت له دواءً. بعد استخدام الدواء، ساءت حالة المريض، ثم نُقل إلى المستشفى، وشُخِّص بتلف في الدماغ وسكتة دماغية وعواقب وخيمة.
"بالتأكيد، لا ينبغي استخدام نتائج البحث لتشخيص أو وصف الأدوية. ولكن، هل يُعدّ بيع الأدوية بناءً على وصفات الذكاء الاصطناعي مخالفًا للقانون؟"، تساءل النائب تران خانه ثو، وأعرب عن أمله في أن يتضمن مشروع قانون الذكاء الاصطناعي هذا أحكامًا قانونية أكثر تفصيلًا لإدارة منتجات الذكاء الاصطناعي في قطاع الرعاية الصحية، وخاصةً فيما يتعلق بمسؤوليات الأطراف المعنية.
وفيما يتعلق بالانتقال من مرحلة ما بعد التدقيق إلى مرحلة ما قبل التدقيق في مشروع القانون، اقترح النائب تران خانه ثو أنه ينبغي أن تكون هناك عتبة كمية واضحة، على سبيل المثال، عندما يغير النموذج خوارزميته، أو يزيد حجم المستخدم، أو تتجاوز بيانات التدريب عتبة محددة.
وفي سياقٍ أعمق، تطرق النائب فام ترونغ نغيا (لانغ سون) إلى "إساءة استخدام الذكاء الاصطناعي"، قائلاً إن الإفراط في الاعتماد على الذكاء الاصطناعي في حياتنا سيُضعف قدرتنا على التفكير والإبداع. ويُحتمل أن يُؤدي إساءة استخدام الذكاء الاصطناعي إلى العديد من المخاطر، مثل انتهاك السيادة الوطنية، وتقليل فعالية الإدارة العامة، والتأثير سلباً على كل فرد وكل أسرة، وخاصةً جيل الشباب.
في القطاع العام، يُقلل إساءة استخدام الذكاء الاصطناعي من جدوى السياسات والقوانين وفعاليتها، ويُضعف من فعاليتها. إن تزويد الذكاء الاصطناعي بالمعلومات والبيانات الحساسة، إن لم يخضع لرقابة صارمة، قد يؤدي إلى تسريب البيانات، مما يُضر بالأمن القومي والنظام الاجتماعي والسلامة العامة، مع عواقب وخيمة لا يمكن التنبؤ بها، هذا ما قاله النائب فام ترونغ نغيا، الذي اقترح إضافة بند إلى مشروع القانون ينص على الأفعال المحظورة، بما في ذلك حظر إساءة استخدام الذكاء الاصطناعي في القطاع العام.
المصدر: https://www.sggp.org.vn/can-co-che-danh-gia-rui-ro-lien-quan-toi-ai-post825783.html
تعليق (0)