مشروع قانون الذكاء الاصطناعي: يجب فحص الذكاء الاصطناعي في الطب مثل الأجهزة الطبية

وباعتبار أن الرعاية الصحية مجال حساس وعالي الخطورة ويحتاج إلى رقابة صارمة، بما في ذلك تطبيق الذكاء الاصطناعي، اقترح بعض المندوبين أن يدرس مشروع قانون الذكاء الاصطناعي اللوائح التي تنص على وجوب فحص الذكاء الاصطناعي في الرعاية الصحية مثل الأجهزة الطبية.

مشهد من جلسة النقاش في القاعة حول مشروع قانون الذكاء الاصطناعي

إدارة منتجات الذكاء الاصطناعي للرعاية الصحية

باعتبارها مندوبة تعمل في قطاع الصحة، أعربت نائبة الجمعية الوطنية تران خانه تو ( هونج ين ) عن تقديرها الكبير لتأثيرات الذكاء الاصطناعي في قطاع الصحة - أحد المجالات ذات الإمكانات الأكبر لتطبيق الذكاء الاصطناعي، مع تأثيرات واضحة على عملية التشخيص والعلاج وإدارة المرضى وكذلك البحث والتطوير الدوائي.

مع ذلك، نُقلت مريضة تبلغ من العمر 55 عامًا مؤخرًا إلى قسم الطوارئ في مدينة هو تشي منه وهي في حالة خمول، غافلة عما يحيط بها. وقالت ابنة المريضة إنها سبق أن رأت والدتها تعاني من الدوار وصعوبة التنفس، فطلبت من الذكاء الاصطناعي تشخيص حالتها. وأظهرت النتائج أنها تعاني من ارتفاع ضغط الدم.

مندوب الجمعية الوطنية تران خانه ثو (هونغ ين) يتحدث

قال المندوب إن الابن قاس ضغط دم والدته فلاحظ ارتفاعًا حادًا، فذهب إلى الصيدلية لشراء دواء لها. لكن بعد تناول الدواء، ساءت حالة الأم، فأصيبت بالتعب والتقيؤ الشديد وفقدان الوعي، فنقلها إلى قسم الطوارئ. في المستشفى، أكد الطبيب إصابة المريضة بتلف دماغي وسكتة دماغية. ورغم نجاتها من المرحلة الحرجة، إلا أن العواقب كانت حتمية.

وقال المندوب بصراحة أن الإنترنت يحظى بشعبية كبيرة في الوقت الحاضر، وخاصة الذكاء الاصطناعي، وهو مصدر جيد جدًا للمعلومات للمرضى الذين يريدون معرفة المزيد عن مرضهم... ومع ذلك، لا يمكن للأشخاص على الإطلاق استخدام النتائج للبحث أو التشخيص أو وصف الأدوية لأنفسهم - وهل الأشخاص الذين يبيعون الأدوية وفقًا لوصفات الذكاء الاصطناعي يخالفون القانون؟ - أثار المندوب هذه القضية.

أشار المندوب أيضًا إلى عدم وجود إطار قانوني شامل ومحدد لتطبيق الذكاء الاصطناعي في مجال الرعاية الصحية. ورغم أن قوانين مثل قانون الفحص والعلاج الطبي وقانون الصيدلة قد نظمت أنشطة الفحص والعلاج الطبي والمنتجات الطبية، إلا أن اللوائح المحددة للمنتجات المطبقة بالذكاء الاصطناعي في الطب لا تزال غير واضحة.

علاوة على ذلك، لا تزال منتجات الفحص والعلاج الطبي المعتمدة على الذكاء الاصطناعي تخضع لإجراءات الترخيص العامة للأجهزة الطبية، وتفتقر إلى معايير وأنظمة محددة للذكاء الاصطناعي لتلك المنتجات.

الوفود المشاركة في جلسة المناقشة

وأكد المندوب أنه "بالإضافة إلى ذلك، فإن بعض القضايا مثل المسؤولية القانونية في حالة أخطاء الذكاء الاصطناعي وأمن البيانات الطبية وسلامة المرضى ليست منظمة بشكل واضح في الوثائق القانونية الحالية".

وبناءً على الواقع المذكور أعلاه، يأمل المندوب تران خانه تو أن يتضمن مشروع قانون الذكاء الاصطناعي أحكامًا وشروطًا وأطرًا قانونية أكثر تحديدًا لإدارة منتجات الذكاء الاصطناعي للرعاية الصحية، وخاصة مسؤوليات الأطراف ذات الصلة.

نظراً لحساسية الرعاية الصحية وكثرة المخاطر فيها، فإنه يتطلب رقابة صارمة عند تطبيق الذكاء الاصطناعي. اقترح مندوب الجمعية الوطنية لي فان خام (مدينة هو تشي منه) ضرورة دراسة اللوائح، وضرورة فحص الذكاء الاصطناعي في مجال الرعاية الصحية كما هو الحال مع الأجهزة الطبية. هناك فئات تفتيش إلزامية عندما يدعم الذكاء الاصطناعي عملية اتخاذ القرارات السريرية، مثل: التشخيص بالذكاء الاصطناعي، والتنبؤ بخطر الوفاة أو المضاعفات، والروبوتات الجراحية التي تستخدم الذكاء الاصطناعي، ودعم الوصفات الطبية أو برامج العلاج.

بالإضافة إلى ذلك، اقترح المندوبون وضع لوائح لتنظيم تداول الذكاء الاصطناعي في مجال الرعاية الصحية لضمان سلامة المرضى، مثل لوائح الإبلاغ الدوري، والإنذار السريع بالحوادث، وتدقيق الخوارزميات، والرصد الفوري للأخطاء. وفي حال وجود لوائح مبدئية في هذا القانون، ستُصدر الجهة المختصة وثائق فرعية لتطبيقها، بالإضافة إلى بناء أدوات إدارية وتدابير مناسبة لحوكمة الذكاء الاصطناعي الطبي.

منظر للاجتماع. تصوير: كوانغ خانه

وفي الوقت نفسه، اقترح المندوب لي فان خام أن تدرس وكالة الصياغة بعناية السماح للموردين بتصنيف المخاطر المتعلقة بالذكاء الاصطناعي في الطب على النحو المنصوص عليه في المادة 9 من مشروع القانون.

تقييم تأثير البيانات الناتجة عن نشر الذكاء الاصطناعي عالي المخاطر

أكد نائب الجمعية الوطنية، ثاتش فوك بينه (فينه لونغ)، أن تصنيف المخاطر هو جوهر قانون الذكاء الاصطناعي، مشيرًا إلى أن مشروع القانون لم يتضمن بعد معايير تصنيف كمية. ويجري تنظيم قائمة أنظمة الذكاء الاصطناعي عالية المخاطر على نطاق واسع نسبيًا، بما في ذلك المجالات التي لم تظهر فيها أي مخاطر كبيرة عمليًا. وقد يُسبب هذا أعباء امتثال غير ضرورية، لا سيما للشركات الصغيرة والمتوسطة.

مندوب الجمعية الوطنية ثاتش فوك بينه (فينه لونغ) يتحدث. تصوير: فام ثانغ

لذلك، اقترح المندوبون ضرورة مراجعة قائمة الأنظمة عالية المخاطر للتركيز فقط على الأنظمة التي قد يكون لها تأثير كبير على حقوق الإنسان والخصوصية والصحة والمالية والضمان الاجتماعي. وفي الوقت نفسه، ينبغي إنشاء آلية لتحديث قائمة الأنظمة عالية المخاطر بمرونة، استنادًا إلى التشاور مع الخبراء والجمعيات الصناعية وهيئات البحث. وينبغي ربط معايير المخاطر بالخصائص التقنية للنموذج، مثل الأتمتة، والقدرة على التعلم الذاتي، وعدم القدرة على التنبؤ، ونطاق الاستخدام.

فيما يتعلق بالبيانات والخصوصية وحماية المستخدم، صرّح المندوب ثاتش فوك بينه بأن البيانات هي "المحرك" للذكاء الاصطناعي، إلا أن الأحكام الحالية لمشروع القانون لا تتوافق مع قانون حماية البيانات الشخصية. من الضروري توضيح مستوى المعالجة المسموح به للبيانات الحساسة، وبيانات الأطفال، والبيانات البيومترية. وفي الوقت نفسه، من الضروري إضافة التزام بتقييم تأثير البيانات عند استخدام الذكاء الاصطناعي عالي المخاطر.

بالنسبة لمستخدمي الذكاء الاصطناعي، أشار مشروع القانون إلى بعض الحقوق الأساسية، لكنه لا يزال يفتقر إلى حقوق مهمة وفقًا للمعايير الدولية، مثل الحق في رفض القرارات الآلية بالكامل أو الحق في طلب توضيحات. وهذه حقوق بالغة الأهمية لحماية الناس من تضرر القرارات القائمة على الذكاء الاصطناعي في مجالات المالية والتأمين والصحة وتوظيف العمالة.

وزير العلوم والتكنولوجيا، نجوين مانه هونغ، يشرح آراء نواب الجمعية الوطنية في الاجتماع. تصوير: هو لونغ

أشار المندوب إلى أن التزييف العميق، وتزوير الصوت والصورة والفيديو، قد تسبب في العديد من الحوادث التي تؤثر بشكل خطير على أمن المعلومات والخصوصية. تنص المادة 9 من مشروع القانون على تصنيف مخرجات الذكاء الاصطناعي، ولكن لا يزال من الضروري توضيح بعض النقاط، مثل: أنواع المحتوى الذي يجب تصنيفه، ومستوى التصنيف لحماية المستخدمين دون التأثير على التجربة الرقمية، ومسؤولية منصات التواصل الاجتماعي في الكشف عن المحتوى المزيف وإزالته. يُعد تصميم آلية تصنيف صارمة ومرنة عاملاً بالغ الأهمية.

كما أشار المندوب إلى أن نظام تقييم المطابقة يُعدّ من أكثر بنود مشروع القانون تعقيدًا. ومع ذلك، إذا بالغنا في تصميم آلية التفتيش المسبق، فقد نُعيق الابتكار دون قصد.

لذلك، اقترح المندوب ثاتش فوك بينه اشتراط الحصول على شهادة للأنظمة عالية المخاطر فقط، مع السماح بالتقييم الذاتي للأنظمة منخفضة ومتوسطة المخاطر. ويجب ضمان عملية تقييم واضحة وشفافة، وتجنب إنشاء آلية طلب منح.

المصدر: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html