تحقیق و توسعه سیستم‌های هوش مصنوعی مسئولانه.

طبق اعلام وزارت علوم و فناوری ، با پیروی از روند کلی در جهان، سیستم‌های هوش مصنوعی ارزیابی می‌شوند تا از طریق پشتیبانی و حل مشکلات دشواری که مردم و جوامع با آن مواجه هستند، مزایای زیادی برای مردم، جامعه و اقتصاد ویتنام به ارمغان بیاورند. در کنار این فرآیند، تحقیق و اتخاذ تدابیری برای به حداقل رساندن خطرات در فرآیند توسعه و استفاده از هوش مصنوعی و ایجاد تعادل بین عوامل اقتصادی، اخلاقی و حقوقی مرتبط ضروری است. بنابراین، سازمان‌های تخصصی باید استانداردها و دستورالعمل‌هایی را برای راهنمایی، حتی اگر مقررات نرم و غیر الزام‌آور باشند، تحقیق و تدوین کنند.

در این دستورالعمل‌ها، وزارت علوم و فناوری نه اصل را در تحقیق و توسعه سیستم‌های هوش مصنوعی مسئولانه تعیین می‌کند.

اول، روحیه همکاری و ارتقای نوآوری: توسعه‌دهندگان باید با در نظر گرفتن تنوع سیستم‌ها، اتصال و قابلیت همکاری بین سیستم‌های هوش مصنوعی خود و سایر سیستم‌های هوش مصنوعی را در نظر بگیرند تا مزایای سیستم را افزایش دهند، ضمن اینکه هماهنگی را برای کنترل خطرات افزایش دهند.

دوم، شفافیت: سیستم‌های هوش مصنوعی که از این اصل پیروی می‌کنند، اغلب سیستم‌هایی هستند که می‌توانند بر زندگی، جسم، حریم خصوصی یا اموال کاربران یا اشخاص ثالث مرتبط تأثیر بگذارند. در این مورد، توسعه‌دهندگان باید به توانایی شناسایی واضح ورودی‌ها و خروجی‌های سیستم و همچنین قابلیت توضیح مرتبط بر اساس ویژگی‌های فناوری کاربردی و نحوه استفاده از آنها توجه کنند تا اعتماد جامعه، از جمله کاربران، تضمین شود.

سوم، قابلیت کنترل: برای ارزیابی خطرات مرتبط با قابلیت کنترل سیستم، توسعه‌دهندگان باید یک پیش‌ارزیابی انجام دهند تا مشخص شود که آیا سیستم الزامات و استانداردهای فنی مربوطه را برآورده می‌کند یا خیر. یکی از روش‌های ارزیابی ریسک، آزمایش در یک فضای جداگانه با اقدامات امنیتی و ایمنی قبل از به‌کارگیری عملی آن است.

چهارم، اصل ایمنی: توسعه‌دهندگان باید اطمینان حاصل کنند که سیستم هوش مصنوعی به جان، جسم یا اموال کاربران یا اشخاص ثالث، از جمله از طریق واسطه‌ها، آسیبی نمی‌رساند.

۵. اصول امنیتی: علاوه بر رعایت اسناد، دستورالعمل‌ها و اجرای اقدامات امنیتی اطلاعات طبق دستورالعمل، توسعه‌دهندگان باید به نکاتی مانند موارد زیر توجه کنند: قابلیت اطمینان و مقاومت سیستم در برابر حملات فیزیکی یا حوادث؛ محرمانگی؛ یکپارچگی؛ و در دسترس بودن اطلاعات لازم مربوط به امنیت اطلاعات سیستم...

۶. حریم خصوصی: توسعه‌دهندگان باید اطمینان حاصل کنند که سیستم‌های هوش مصنوعی حریم خصوصی کاربران یا اشخاص ثالث را نقض نمی‌کنند. حریم خصوصی شامل حریم خصوصی مکانی (آرامش خاطر در زندگی شخصی)، حریم خصوصی اطلاعات (داده‌های شخصی) و محرمانگی ارتباطات می‌شود. توسعه‌دهندگان باید مقررات و دستورالعمل‌های فعلی را اعمال کنند؛ می‌توان به استانداردها و دستورالعمل‌های بین‌المللی در مورد حریم خصوصی مراجعه کرد.

توسعه‌دهندگان باید یک ارزیابی اولیه از خطرات حریم خصوصی و همچنین ارزیابی اولیه‌ای از تأثیرات آن بر حریم خصوصی انجام دهند. تا حد امکان، اقدامات متناسب با ویژگی‌های فناوری مورد استفاده در طول فرآیند توسعه سیستم را اتخاذ کنند تا از نقض حریم خصوصی در هنگام استفاده جلوگیری شود.

هفتم، احترام به حقوق و کرامت انسانی: هنگام توسعه سیستم‌های هوش مصنوعی که شامل انسان‌ها می‌شوند، توسعه‌دهندگان باید توجه ویژه‌ای به احترام به حقوق بشر و کرامت افراد درگیر داشته باشند. تا حد امکان، بسته به ویژگی‌های فناوری مورد استفاده، توسعه‌دهندگان باید اقداماتی را انجام دهند تا اطمینان حاصل شود که تبعیض و بی‌عدالتی ناشی از سوگیری در داده‌ها هنگام آموزش سیستم ایجاد نمی‌شود.

توسعه‌دهندگان باید اقدامات احتیاطی را انجام دهند تا اطمینان حاصل شود که سیستم، ارزش‌های انسانی و اخلاق اجتماعی را طبق اصول اساسی ویتنام (به عنوان مثال، ارزش‌هایی از جمله میهن‌پرستی، همبستگی، اتکا به نفس، وفاداری، صداقت، مسئولیت‌پذیری، نظم، خلاقیت و غیره) نقض نمی‌کند.

هشتم، پشتیبانی از کاربر: برای پشتیبانی از کاربران، توسعه‌دهندگان سیستم باید به نکاتی مانند موارد زیر توجه کنند: ایجاد رابط‌های کاربری آماده برای ارائه اطلاعات به موقع و مناسب برای کمک به کاربران در تصمیم‌گیری و استفاده راحت؛ اجرای اقداماتی برای آسان‌تر کردن استفاده از سیستم برای افراد آسیب‌پذیر جامعه (سالمندان، معلولان)...

۹. پاسخگویی: توسعه‌دهندگان باید در قبال سیستم‌هایی که توسعه می‌دهند پاسخگو باشند تا اعتماد کاربران را تضمین کنند. به‌طور خاص، آن‌ها باید اطلاعاتی را در اختیار کاربران قرار دهند تا به آن‌ها در انتخاب و استفاده از سیستم کمک کند. علاوه بر این، برای افزایش پذیرش اجتماعی سیستم‌ها، توسعه‌دهندگان باید اقدامات بیشتری انجام دهند: اطلاعات و توضیحاتی در مورد مشخصات فنی سیستم‌هایی که توسعه می‌دهند، الگوریتم‌ها، مکانیسم‌های امنیتی و غیره در اختیار کاربران قرار دهند؛ به نظرات گوش دهند و با ذینفعان گفتگو کنند.

منبع: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html