ارزش‌های اصلی برای توسعه مسئولانه هوش مصنوعی

در تاریخ ۲۶ مه، دانشکده حقوق دانشگاه ملی ویتنام در هانوی، سمیناری با عنوان «چارچوب اخلاق ملی هوش مصنوعی ویتنام: جهت‌گیری‌ها و ارزش‌های اصلی برای توسعه مسئولانه هوش مصنوعی» با حضور کارشناسان و دانشمندانی از سازمان‌های مجلس ملی، وزارتخانه‌ها، ادارات، مؤسسات آموزشی و تحقیقاتی برگزار کرد.

صحنه‌هایی از سمینار

این سمینار یک انجمن علمی مهم است که به ترویج گفتگوی سیاسی، ارتباط محققان با سازمان‌های مدیریتی و کسب‌وکارها و با هدف ایجاد یک بخش هوش مصنوعی ایمن، انسانی و پایدار در ویتنام که با ارزش‌های فرهنگی ویتنامی سازگار باشد، کمک می‌کند.

یک روش مدیریت هوش مصنوعی مؤثر مورد نیاز است.

دانشیار، دکتر نگوین تی کو آن، دانشکده حقوق، دانشگاه ملی ویتنام، هانوی، اطلاع داد: بر اساس تحقیقات انجام شده توسط برنامه Aus4Innovation آژانس ملی علوم و فناوری استرالیا (CSIRO)، دانشکده حقوق دانشگاه ملی ویتنام، هانوی، پروژه "تحقیق در مورد توسعه اصول و برخی دستورالعمل‌های هوش مصنوعی مسئولانه (RAI) در ویتنام" را از اکتبر 2023 تا دسامبر 2024 (مرحله 1 RAI) اجرا کرد.

دکتر نگوین تی کو آن، دانشیار، رئیس سابق دانشکده حقوق دانشگاه ملی ویتنام، هانوی ، و سرپرست مشترک پروژه «تحقیق در مورد تدوین اصول و برخی دستورالعمل‌های هوش مصنوعی مسئولانه (RAI) در ویتنام»، سخنان افتتاحیه سمینار را ایراد کرد.

فاز اول این پروژه از زمان آغاز به کار خود به نتایج قابل توجهی دست یافته است. این پروژه به افزایش ظرفیت وزارت علوم و فناوری در تدوین سیاست‌های مربوط به هوش مصنوعی مسئولانه کمک کرده و در عین حال بحث‌های سیاسی معناداری را بین ذینفعان در مورد چگونگی مدیریت مؤثر هوش مصنوعی تقویت کرده است. به طور خاص، تیم تحقیقاتی در تهیه پیش‌نویس اولین مجموعه دستورالعمل‌های وزارت علوم و فناوری در مورد تحقیق و توسعه سیستم‌های هوش مصنوعی مسئولانه که در ژوئن 2024 منتشر شد، مشارکت داشت. پیش‌نویس چارچوب اصول و دستورالعمل‌های RAI - که خروجی کلیدی فاز 1 است - در دسامبر 2024 نهایی و منتشر شد.

فاز دوم این پروژه با موضوع «ترویج هوش مصنوعی مسئولانه برای کمک به توسعه پایدار و فراگیر ویتنام» نامگذاری شده است. پیشنهاد فاز دوم بر رویکردی مبتنی بر شواهد متمرکز است و با استفاده از مطالعات موردی در ویتنام، چگونگی اعمال دستورالعمل‌های RAI (که در فاز اول تدوین شده است) را در بخش‌های خاص بررسی می‌کند.

این مطالعات موردی، اصول RAI را در طول چهار مرحله تحقیق و توسعه (R&D) تا استقرار عملی سناریوهای کاربرد هوش مصنوعی، با تمرکز ویژه بر تجربه متخصصان هوش مصنوعی و کاربران نهایی، ادغام خواهند کرد. مرحله 2 همچنین به حمایت از وزارت علوم و فناوری، سایر وزارتخانه‌ها و سازمان‌ها در انتشار سیاست RAI و استراتژی ملی هوش مصنوعی ادامه خواهد داد. این پروژه همکاری با ذینفعان را در سه حوزه اولویت‌دار: کشاورزی، آموزش و بهداشت، تقویت خواهد کرد تا بحث‌های عمیق در مورد سیاست‌ها را ترویج داده و ابزارهای خاص سیاست RAI (مانند مجموعه‌های راهنما) را توسعه دهد.

علاوه بر این، این پروژه بر افزایش ظرفیت ذینفعان از طریق کارگاه‌ها، سمینارها و دوره‌های آموزشی برای ترویج نوآوری مسئولانه، فراگیر و پایدار تمرکز خواهد کرد.

دانشیار، دکتر نگوین بیچ تائو، دانشکده حقوق، دانشگاه ملی ویتنام، هانوی، رئیس مشترک پروژه "تحقیق در مورد تدوین اصول و دستورالعمل‌های هوش مصنوعی مسئولانه (RAI) در ویتنام"، در مورد تدوین استانداردهای اخلاقی عملکرد هوش مصنوعی مرتبط با چارچوب ملی و سازوکارهای مناسب پاسخگویی و شکایت، ارائه داد.

این پروژه در چارچوب توسعه قوی سیاست‌ها و چارچوب قانونی ویتنام در زمینه علم و فناوری، نوآوری و هوش مصنوعی اجرا می‌شود. به طور خاص، قانون هوش مصنوعی ۲۰۲۵ و بخشنامه ۰۵/۲۰۲۶ در مورد چارچوب ملی اخلاق هوش مصنوعی، نقاط عطف مهمی در شکل‌دهی به یک اکوسیستم هوش مصنوعی ایمن، قابل اعتماد و انسانی در ویتنام محسوب می‌شوند.

این سمینار علمی با هدف انتشار محتوای چارچوب ملی اخلاق هوش مصنوعی و بحث عمیق در مورد سازوکارهای اجرای مسئولانه اخلاق هوش مصنوعی برگزار شد و بر موضوعاتی مانند شفافیت، پاسخگویی، حریم خصوصی، انصاف و سازوکارهای شکایت در سراسر چرخه حیات سیستم‌های هوش مصنوعی تمرکز داشت.

ابزارهایی برای ارزیابی تأثیر اخلاقی، استانداردهای عملی و رویه‌های اعتباربخشی مناسب برای هر بخش تدوین کنید.

دکتر هو دوک تانگ، نماینده تمام وقت مجلس ملی در کمیته فرهنگ و جامعه مجلس ملی، در سخنرانی خود در این سمینار اظهار داشت که هوش مصنوعی نه تنها یک مسئله فناوری است، بلکه مسئله‌ای مربوط به مردم، فرهنگ و حاکمیت ملی در عصر دیجیتال نیز هست. او این سوال اصلی را مطرح کرد: «هوش مصنوعی به چه کسی، به چه چیزی و در چه محدوده ارزشی خدمت خواهد کرد؟»

دکتر هو دوک تانگ، عضو تمام وقت پارلمان در کمیته فرهنگ و امور اجتماعی، در این سمینار سخنرانی کرد.

به گفته دکتر هو دوک تانگ، چارچوب ملی اخلاق هوش مصنوعی بر چهار ستون بنا شده است: داده‌ها، ارزیابی، آموزش و حاکمیت؛ و بر چهار اصل اساسی تأکید دارد: انسان‌محوری، تضمین ایمنی و قابلیت اطمینان، انصاف و شفافیت و پاسخگویی.

دکتر تران ون تونگ، رئیس انجمن اطلاعات علمی و فناوری ویتنام، ارزیابی کرد: «چگونگی استفاده از هوش مصنوعی، میزان خردمندانه بودن آن و چگونگی استفاده مؤثر از آن... نیازمند ابزارهای پشتیبانی است. در این مرحله، علاوه بر چارچوب‌های قانونی، باید بر آموزش و توسعه تمرکز کنیم تا افراد بتوانند بر هوش مصنوعی تسلط پیدا کنند و به طور خلاقانه، هوشمندانه، مولد و کارآمد از آن استفاده کنند.»

دانشیار، دکتر نگوین تی کو آن، خاطرنشان کرد که شکاف بین اصول اخلاقی و اجرا همچنان یک چالش عمده است و مستلزم تبدیل مفاهیمی مانند "ایمنی"، "پایداری" یا "کنترل انسانی" به معیارها، رویه‌ها و ابزارهای تأیید خاص است.

به گفته او، سیستم‌های هوش مصنوعی باید با رویکرد «ایمنی از طریق طراحی» طراحی شوند - یعنی از ابتدا ایمنی را تضمین کنند؛ در عین حال مکانیسم «انسان در حلقه» را حفظ کنند، که در آن انسان‌ها نقش نظارتی ایفا می‌کنند و تصمیمات نهایی را برای سیستم‌های هوش مصنوعی پرخطر می‌گیرند. او همچنین بر لزوم ایجاد مکانیسم‌های حفاظت از داده‌ها، افزایش قابلیت ردیابی و قابلیت‌های تفسیری هوش مصنوعی و ایجاد «ایستگاه‌های بازرسی ایمنی» برای جلوگیری از خطر از دست دادن کنترل انسان بر سیستم‌های هوش مصنوعی تأکید کرد.

دکتر نگوین تی فونگ چام از دانشکده حقوق دانشگاه ملی ویتنام، هانوی، بر تحلیل چالش‌های فنی و حقوقی مربوط به حریم خصوصی داده‌ها، خطر سوگیری الگوریتمی و لزوم شفافیت در تصمیم‌گیری هوش مصنوعی تمرکز کرد. دکتر نگوین تی فونگ چام استدلال کرد که توسعه مسئولانه هوش مصنوعی باید حقوق بشر را در اولویت قرار دهد، اطمینان حاصل کند که سیستم‌های هوش مصنوعی منصفانه هستند، سوگیری‌های اجتماعی را بازتولید نمی‌کنند و سازوکارهای روشنی برای توضیح تصمیماتی که مستقیماً بر مردم تأثیر می‌گذارند، دارند.

دانشمندان و نمایندگان در این سمینار شرکت کردند.

دکتر نگوین بیچ تائو، دانشیار دانشکده حقوق دانشگاه ملی ویتنام، هانوی، با تمرکز بر توسعه استانداردهای اخلاقی عملکرد هوش مصنوعی، بر ضرورت اتصال چارچوب ملی اخلاق هوش مصنوعی با مکانیسم‌های پاسخگویی مناسب، مکانیسم‌های بازخورد و مکانیسم‌های شکایت برای تضمین اجرای عملی تأکید کرد. برای ایجاد یک اکوسیستم پایدار هوش مصنوعی، ویتنام باید ابزارهای ارزیابی تأثیر اخلاقی، استانداردهای عملکرد و فرآیندهای اعتبارسنجی متناسب با هر بخش، مانند آموزش، مراقبت‌های بهداشتی، مدیریت عمومی و قوه قضائیه را توسعه دهد.

وو کوین ترانگ

منبع: https://nhandan.vn/nhung-gia-tri-cot-loi-cho-su-phat-trien-ai-co-trach-nhiem-post964841.html