فناوری را توسعه دهید، نوآوری را ترویج دهید اما اجازه ندهید خطرات فراتر از دسترس شما باشند

به گفته نمایندگان، پیش‌نویس قانون هوش مصنوعی که به مجلس ملی ارائه شده است، فقط یک قانون فناوری نیست، بلکه قانونی برای آینده است. به عنوان تعهد مجلس ملی به مردم که ما فناوری را توسعه می‌دهیم اما کنترل را از دست نمی‌دهیم؛ نوآوری را ترویج می‌دهیم اما اجازه نمی‌دهیم خطرات از دسترس ما فراتر روند.

نایب رئیس مجلس ملی، له مین هوآن، ریاست این جلسه را بر عهده داشت. عکس: هو لانگ

بعدازظهر ۲۷ نوامبر، به دستور نایب رئیس مجلس ملی، لو مین هوان، مجلس ملی پیش‌نویس قانون هوش مصنوعی را در تالار اصلی مورد بحث قرار داد.

فقدان مقررات مربوط به جبران خسارت و مسئولیت بیمه

در مورد ماده 20 پیش‌نویس قانون سازوکار آزمایش کنترل‌شده برای توسعه هوش مصنوعی، عضو مجلس ملی، هوانگ مین هیو ( نگه آن )، اظهار داشت که هدف اصلی سازوکار آزمایش کنترل‌شده برای هوش مصنوعی (AI)، حذف موانع قانونی است که مانع مدل‌های هوش مصنوعی می‌شوند و امکان آزمایش محدود برای به دست آوردن داده‌ها برای اثبات اثربخشی را فراهم می‌کنند و در نتیجه، اصلاحات نظارتی بلندمدت را ارتقا می‌دهند. این رویکرد همچنین با تفکر قانونگذاری فعلی ما بسیار سازگار است، مبنی بر اینکه نهادها باید ابتدا راه را برای توسعه هموار کنند.

معاون مجلس ملی هوانگ مین هیو (Nghe An) صحبت می کند. عکس: کوانگ خان

نماینده تأکید کرد که مقررات مربوط به سازوکارهای آزمایش کنترل‌شده باید محور چارچوب قانونی هوش مصنوعی باشد، بنابراین آژانس تدوین‌کننده باید این موضوع را به‌طور خاص در پیش‌نویس قانون تحقیق و تنظیم کند.

بر این اساس، نماینده پیشنهاد داد که مقررات مربوط به معافیت سازمان‌ها و افراد شرکت‌کننده در آزمایش‌های کنترل‌شده یا کاهش برخی از تعهدات انطباق، همانطور که در بند 2، ماده 20 پیش‌نویس قانون آمده است، بررسی شود. چنین مقرراتی منجر به محدود شدن دامنه معافیت به مفاد این قانون می‌شود، در حالی که سیستم‌های هوش مصنوعی اغلب با بسیاری از مفاد قانونی مرتبط دیگر مرتبط هستند.

نمایندگان به سازوکار آزمایش هوش مصنوعی در هواپیماهای مسافربری خودران در ژاپن اشاره کردند که از برخی قوانین مربوط به تضمین ایمنی هوانوردی معاف است. یا آزمایش خودروهای خودران در چین و ژاپن از مفاد قانون حفاظت از داده‌های شخصی معاف است که عبارت است از استفاده از داده‌های تصویری بدون نیاز به تار کردن چهره شرکت‌کنندگان در ترافیک برای آموزش و تربیت بینایی هوش مصنوعی.

با توجه به تجربه سایر کشورها، نمایندگان پیشنهاد دادند که نهاد مسئول تهیه پیش‌نویس مطالعه، تنها در بند ۲ ماده ۲۰، در جهت تعریف واضح این موضوع که سازمان‌ها و افراد شرکت‌کننده در آزمایش‌های کنترل‌شده از برخی تعهدات انطباق مقرر در این قانون و سایر قوانین مربوطه معاف یا کاهش یافته‌اند، تصریح کند.

نمایندگان شرکت کننده در جلسه. عکس: هو لانگ

بند ۵، ماده ۲۰، سازمان مدیریت دولتی هوش مصنوعی را موظف می‌کند تا پذیرش، ارزیابی و پردازش پرونده‌ها را برای شرکت در فعالیت‌های آزمایشی کنترل‌شده، مطابق با فرآیند ارزیابی و پاسخ سریع، سازماندهی کند.

نماینده هوانگ مین هیو خاطرنشان کرد که سیستم‌های هوش مصنوعی صرفاً مسائلی مربوط به فناوری، الگوریتم‌ها... نیستند، بلکه مسائل چند رشته‌ای و بین رشته‌ای نیز هستند. بنابراین، مفاد بند ۵ احتمالاً فقط برای سیستم‌های هوش مصنوعی عمومی، مانند هوش مصنوعی مولد (ChatGPT، Gemini) مناسب است... در مورد سیستم‌های هوش مصنوعی تخصصی، ماهیت بین رشته‌ای بسیار بالاست.

هوانگ مین هیو، نماینده، با اشاره به سیستم DrAid، یک محصول هوش مصنوعی که از تشخیص تصاویر پزشکی توسعه یافته توسط VinBrain پشتیبانی می‌کند، گفت که اگر این سیستم برای آزمایش ثبت شود، غیرممکن است که نقش نظارتی و مدیریتی وزارت بهداشت را نداشته باشد. بنابراین، در برخی کشورها، ارزیابی و صدور مجوز آزمایش کنترل‌شده سیستم‌های هوش مصنوعی به یک شورای میان‌رشته‌ای واگذار می‌شود.

نمایندگان پیشنهاد دادند که مفاد بند ۵، ماده ۲۰ پیش‌نویس قانون در راستای «سازمان مدیریت دولتی هوش مصنوعی، ریاست و هماهنگی با سازمان‌های مدیریت دولتی مربوطه را برای سازماندهی دریافت، ارزیابی و پردازش پرونده‌ها جهت شرکت در فعالیت‌های آزمایشی کنترل‌شده بر عهده دارد» اصلاح شود.

این نماینده همچنین گفت که مفاد ماده ۲۰ پیش‌نویس قانون هنوز فاقد مقرراتی در مورد جبران خسارت و مسئولیت‌های بیمه است. و در آن ذکر نشده است که در صورت آسیب دیدن شخص ثالث در اثر آزمایش، چه کسی مسئول است. طبق اصل کلی، سازمان یا فرد آزمایش‌کننده در صورت ایجاد خسارت، باید غرامت مدنی بپردازد. بنابراین، نماینده هوانگ مین هیو پیشنهاد داد که این ماده به پیش‌نویس قانون اضافه شود.

تمام نرم‌افزارهای هوش مصنوعی که در ویتنام فعالیت می‌کنند باید به یک « پایگاه داده استاندارد شبیه به انسان » مجهز باشند.

تران ون لام (باک نین)، نماینده مجلس ملی، از پیش‌نویس قانون به خاطر تعریف اصل قرار دادن مردم در مرکز؛ طبقه‌بندی و کنترل خطرات؛ بازرسی سیستم‌های هوش مصنوعی پرخطر؛ و توسعه زیرساخت‌های محاسباتی و داده ملی، بسیار قدردانی کرد. این یک چارچوب قانونی مترقی و مطابق با روندهای بین‌المللی است.

تران ون لام، معاون مجلس ملی (باک نین)، در حال سخنرانی. عکس: هو لانگ

با این حال، برای اینکه قانون واقعاً کامل شود و چشم‌انداز بلندمدتی داشته باشد، نماینده یک الحاقیه کلیدی پیشنهاد داد: هوش مصنوعی را به عنوان یک «انسان تازه متولد شده» در نظر بگیرید. یک «موجود هوشمند اما معصوم»: قانون را نمی‌داند، اخلاق و آداب معاشرت را نمی‌فهمد، هیچ ارزش فرهنگی ندارد و اگر آموزش داده نشود، درست را از غلط تشخیص نمی‌دهد.

تران ون لام، نماینده، گفت: «اگر هوش مصنوعی را به عنوان یک نهاد نوظهور در نظر بگیریم، مسئولیت ما نه تنها کنترل آن، بلکه آموزش آن از ابتدا است، مانند آموزش ارزش‌های استاندارد انسانی به یک کودک. و این باید یک ماده الزامی در این قانون باشد، نه فقط یک توصیه.»

نمایندگان پیشنهاد دادند که مجلس ملی یک اصل قانونی را به قانون اضافه کند: «تمام نرم‌افزارهای هوش مصنوعی که در ویتنام کار می‌کنند، چه توسط سازمان‌های داخلی و چه خارجی توسعه یافته باشند، باید به یک پایگاه داده انسانی استاندارد مجهز باشند.»

به گفته این نماینده، «پایگاه داده استاندارد بنیاد انسانی» باید حاوی اطلاعات کافی برای آموزش هوش مصنوعی جهت درک قوانین ویتنام باشد؛ استانداردهای اخلاقی هوش مصنوعی، فرهنگ و سنت‌های خوب ملت را به آن آموزش دهد؛ به هوش مصنوعی توانایی تشخیص درست و غلط، استاندارد و غیراستاندارد را بیاموزد؛ محدودیت‌های رفتاری که نباید از آنها تجاوز شود و قوانینی برای شناسایی خطرات برای انسان‌ها را به آن بیاموزد. و از همه مهمتر، اطمینان حاصل کند که این پایگاه داده بنیاد همیشه در مدیریت رفتار هوش مصنوعی اولویت مطلق داشته باشد؛ نباید توسط هیچ الگوریتم یا داده آموزشی دیگری رونویسی، جایگزین یا غیرفعال شود. این «حلقه طلایی» قانونی و فنی است که تضمین می‌کند هوش مصنوعی به بیراهه نرود.

نمایی از جلسه. عکس: کوانگ خان

برای اجرای مؤثر این جهت‌گیری، نمایندگان پیشنهاد کردند که وزارت علوم و فناوری رهبری ساخت یک پلتفرم پایگاه داده یکپارچه، استاندارد و دائماً به‌روز شده «ویتنامی بودن» را بر عهده بگیرد و آن را به عنوان یک الزام اجباری در اختیار توسعه‌دهندگان هوش مصنوعی قرار دهد. دولت باید یک زیرساخت محاسباتی ملی قوی ایجاد کند تا اطمینان حاصل شود که هوش مصنوعی ویتنامی بر اساس ارزش‌های ویتنامی آموزش دیده است، نه وابسته به مدل‌های خارجی.

همزمان، یک مرکز ملی آزمایش هوش مصنوعی ایجاد کنید تا به سرعت رفتارهای انحرافی را ارزیابی کند، مدل‌های پرخطر را کنترل کند و در صورت مشاهده نشانه‌هایی از فراتر رفتن از محدودیت‌ها، به سرعت مداخله کند. آموزش هوش مصنوعی را در سراسر جامعه ترویج دهید و بر کمک به مردم، مشاغل و به ویژه بخش دولتی برای داشتن ظرفیت لازم جهت شناسایی، استفاده و نظارت صحیح بر هوش مصنوعی تمرکز کنید.

نماینده تران ون لام تأکید کرد: «قانون امروز در مورد هوش مصنوعی فقط یک قانون فناوری نیست، بلکه قانونی برای آینده است؛ تعهد مجلس ملی به مردم، ما فناوری را توسعه می‌دهیم اما کنترل را از دست نمی‌دهیم؛ نوآوری را ترویج می‌دهیم اما اجازه نمی‌دهیم خطرات از دسترس ما فراتر روند. و هوش مصنوعی را با ارزش‌های ویتنامی پرورش می‌دهیم تا به مردم ویتنام خدمت کنیم.»

منبع: https://daibieunhandan.vn/phat-trien-cong-nghe-thuc-day-doi-moi-nhung-khong-de-rui-ro-vuot-tam-10397378.html