پیش‌نویس قانون هوش مصنوعی: هوش مصنوعی در پزشکی باید مانند دستگاه‌های پزشکی بازرسی شود

با توجه به اینکه مراقبت‌های بهداشتی یک حوزه حساس و پرخطر است که باید به شدت کنترل شود، از جمله کاربرد هوش مصنوعی، برخی از نمایندگان پیشنهاد کردند که پیش‌نویس قانون هوش مصنوعی باید مقرراتی را بررسی کند که هوش مصنوعی در مراقبت‌های بهداشتی باید مانند دستگاه‌های پزشکی بازرسی شود.

صحنه‌ای از جلسه بحث در سالن درباره پروژه قانون هوش مصنوعی

مدیریت محصولات هوش مصنوعی برای مراقبت‌های بهداشتی

تران خان تو ( هونگ ین )، نماینده مجلس ملی، به عنوان نماینده‌ای که در بخش سلامت فعالیت می‌کند، از تأثیرات هوش مصنوعی (AI) در بخش سلامت - یکی از زمینه‌هایی که بیشترین پتانسیل را برای کاربرد هوش مصنوعی دارد و تأثیرات آشکاری بر فرآیند تشخیص، درمان، مدیریت بیمار و همچنین تحقیق و توسعه دارویی دارد - بسیار قدردانی کرد.

با این حال، اخیراً، یک بیمار ۵۵ ساله در شهر هوشی مین با حالت بی‌حالی و عدم آگاهی از محیط اطراف به اورژانس آورده شد. دختر این بیمار گفت که قبلاً مادرش را در حال سرگیجه و مشکل تنفسی دیده بود، بنابراین از هوش مصنوعی خواست تا بیماری او را تشخیص دهد. نتایج نشان داد که او فشار خون بالا دارد.

تران خان تو (هونگ ین)، معاون مجلس ملی، سخنرانی می‌کند.

نماینده گفت که پسر فشار خون مادرش را اندازه گرفت و دید که واقعاً بالا رفته است، بنابراین برای خرید دارو برای مادرش به داروخانه رفت. اما پس از مصرف دارو، حال مادر بدتر شد، او خسته شد، استفراغ زیادی کرد و هوشیاری خود را از دست داد، بنابراین او را به اورژانس برد. در بیمارستان، پزشک تأیید کرد که بیمار دچار آسیب مغزی و سکته مغزی شده است. اگرچه او از مرحله بحرانی نجات یافت، اما عواقب آن اجتناب‌ناپذیر بود.

نماینده با صراحت گفت که اینترنت امروزه بسیار محبوب است، به خصوص هوش مصنوعی، منبع بسیار خوبی از اطلاعات برای بیمارانی است که می‌خواهند در مورد بیماری خود بیشتر بدانند... با این حال، مردم مطلقاً نمی‌توانند از نتایج برای جستجو، تشخیص یا تجویز دارو برای خود استفاده کنند - و آیا افرادی که طبق نسخه‌های هوش مصنوعی دارو می‌فروشند، قانون را نقض می‌کنند؟ - نماینده این موضوع را مطرح کرد.

این نماینده همچنین خاطرنشان کرد که ما چارچوب قانونی مشخص و کاملی به طور خاص برای کاربرد هوش مصنوعی در مراقبت‌های بهداشتی نداریم. اگرچه قوانینی مانند قانون معاینه و درمان پزشکی یا قانون داروسازی، فعالیت‌های معاینه و درمان پزشکی و محصولات پزشکی را تنظیم کرده‌اند، اما مقررات خاص در مورد محصولات کاربردی هوش مصنوعی در پزشکی هنوز مشخص نیست.

علاوه بر این، محصولات معاینه و درمان پزشکی مبتنی بر هوش مصنوعی هنوز مشمول رویه‌های صدور مجوز عمومی برای تجهیزات پزشکی هستند و فاقد استانداردها و مقررات خاص هوش مصنوعی برای آن محصولات می‌باشند.

نمایندگان شرکت کننده در جلسه بحث و گفتگو

این نماینده تأکید کرد: «علاوه بر این، برخی از مسائل مانند مسئولیت قانونی در صورت خطاهای هوش مصنوعی و امنیت داده‌های پزشکی و ایمنی بیمار در اسناد قانونی فعلی به وضوح تنظیم نشده‌اند.»

بر اساس واقعیت فوق، نماینده تران خان تو امیدوار است که پیش‌نویس قانون هوش مصنوعی، مفاد، اصطلاحات و چارچوب‌های قانونی خاص‌تری برای مدیریت محصولات هوش مصنوعی در حوزه مراقبت‌های بهداشتی، به ویژه مسئولیت‌های طرفین ذیربط، داشته باشد.

با توجه به اینکه مراقبت‌های بهداشتی یک حوزه حساس و پرخطر است، هنگام استفاده از هوش مصنوعی باید به شدت کنترل شود، نماینده مجلس ملی، لو وان خام (شهر هوشی مین)، پیشنهاد داد که مطالعه مقررات ضروری است، هوش مصنوعی در مراقبت‌های بهداشتی باید مانند دستگاه‌های پزشکی بازرسی شود. دسته‌های بازرسی اجباری وجود دارد که هوش مصنوعی از تصمیم‌گیری بالینی پشتیبانی می‌کند، مانند: تشخیص هوش مصنوعی، پیش‌بینی خطر مرگ یا عوارض توسط هوش مصنوعی، ربات‌های جراحی با استفاده از هوش مصنوعی، پشتیبانی هوش مصنوعی از تجویز یا رژیم درمانی.

علاوه بر این، نمایندگان پیشنهاد کردند که باید مقرراتی در مورد نظارت بر گردش هوش مصنوعی در مراقبت‌های بهداشتی برای تضمین ایمنی بیمار، مانند مقررات مربوط به گزارش‌دهی دوره‌ای، هشدار سریع حادثه، حسابرسی الگوریتم و نظارت بر خطا در زمان واقعی، وجود داشته باشد. هنگامی که مقررات اصولی در این قانون وجود داشته باشد، مرجع ذیصلاح اسناد فرعی را برای اجرای آنها صادر می‌کند، و همچنین ابزارهای مدیریتی و اقدامات مناسب در مدیریت هوش مصنوعی پزشکی را ایجاد می‌کند.

نمایی از جلسه. عکس: کوانگ خان

در عین حال، نماینده لو ون خام پیشنهاد داد که آژانس تدوین‌کننده باید با دقت بررسی کند که به تأمین‌کنندگان اجازه دهد خطرات هوش مصنوعی در پزشکی را طبق ماده ۹ پیش‌نویس قانون، خودشان طبقه‌بندی کنند.

ارزیابی تأثیر داده‌های ناشی از استقرار هوش مصنوعی پرخطر

تاچ فوک بین (وین لونگ)، نماینده مجلس ملی، با تأکید بر اینکه طبقه‌بندی ریسک، روح قانون هوش مصنوعی است، خاطرنشان کرد که پیش‌نویس قانون هنوز معیارهای طبقه‌بندی کمی را ارائه نکرده است. فهرست سیستم‌های هوش مصنوعی پرخطر به طور نسبتاً گسترده‌ای تنظیم می‌شود، از جمله حوزه‌هایی که هیچ ریسک قابل توجهی در عمل در آنها ظاهر نشده است. این امر می‌تواند بارهای انطباق غیرضروری، به ویژه برای شرکت‌های کوچک و متوسط، ایجاد کند.

نماینده مجلس ملی، تاچ فوک بین (وین لونگ)، در حال سخنرانی. عکس: فام تانگ

بنابراین، نمایندگان پیشنهاد کردند که بررسی فهرست پرخطر به گونه‌ای ضروری است که تنها بر سیستم‌هایی تمرکز شود که می‌توانند تأثیر عمده‌ای بر حقوق بشر، حریم خصوصی، سلامت، امور مالی و تأمین اجتماعی داشته باشند. در عین حال، سازوکاری برای به‌روزرسانی انعطاف‌پذیر فهرست پرخطر بر اساس مشورت با کارشناسان، انجمن‌های صنعتی و سازمان‌های تحقیقاتی ایجاد شود. معیارهای ریسک را به ویژگی‌های فنی مدل مانند اتوماسیون، توانایی خودآموزی، غیرقابل‌پیش‌بینی بودن و مقیاس استفاده متصل کنید.

در مورد داده‌ها، حریم خصوصی و حفاظت از کاربر، نماینده Thach Phuoc Binh گفت که داده‌ها «سوخت» هوش مصنوعی هستند، اما مفاد فعلی پیش‌نویس قانون با قانون حفاظت از داده‌های شخصی مطابقت ندارد. لازم است سطح پردازش مجاز برای داده‌های حساس، داده‌های کودکان و داده‌های بیومتریک روشن شود. در عین حال، لازم است تعهد به ارزیابی تأثیر داده‌ها هنگام استقرار هوش مصنوعی پرخطر اضافه شود.

برای کاربران هوش مصنوعی، پیش‌نویس قانون به برخی حقوق اساسی اشاره کرده است، اما هنوز فاقد حقوق مهمی مطابق با استانداردهای بین‌المللی است، مانند: حق رد تصمیمات کاملاً خودکار یا حق درخواست توضیح. اینها حقوق بسیار مهمی هستند که به افراد کمک می‌کنند تا از تصمیمات مبتنی بر هوش مصنوعی در زمینه‌های مالی، بیمه، بهداشت یا استخدام نیروی کار آسیب نبینند.

نگوین مان هونگ، وزیر علوم و فناوری، نظرات نمایندگان مجلس ملی را در این جلسه توضیح می‌دهد. عکس: هو لانگ

این نماینده خاطرنشان کرد که جعل عمیق، جعل صدا، تصویر و ویدیو باعث بروز حوادث بسیاری شده است که به طور جدی بر امنیت اطلاعات و حریم خصوصی تأثیر می‌گذارد. ماده ۹ پیش‌نویس قانون، برچسب‌گذاری خروجی‌های هوش مصنوعی را تصریح می‌کند، اما هنوز لازم است نکاتی از جمله موارد زیر روشن شود: چه نوع محتوایی باید برچسب‌گذاری شود، چه سطحی از برچسب‌گذاری برای محافظت از کاربران بدون کاهش تجربه دیجیتال و مسئولیت پلتفرم‌های شبکه‌های اجتماعی در تشخیص و حذف محتوای جعلی. طراحی یک مکانیسم برچسب‌گذاری دقیق اما انعطاف‌پذیر، یک عامل بسیار ضروری است.

نماینده همچنین خاطرنشان کرد که سیستم ارزیابی انطباق یکی از فنی‌ترین مفاد پیش‌نویس قانون است. با این حال، اگر مکانیسم پیش بازرسی را بیش از حد سنگین طراحی کنیم، ممکن است ناخواسته مانع نوآوری شویم.

بنابراین، نماینده Thach Phuoc Binh پیشنهاد داد که فقط صدور گواهینامه برای سیستم‌های پرخطر الزامی شود و برای سیستم‌های کم‌خطر و متوسط، خودارزیابی امکان‌پذیر گردد. یک فرآیند ارزیابی شفاف و روشن تضمین شود و از ایجاد مکانیسم درخواست-اعطای مجوز جلوگیری شود.

منبع: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html