استفاده از سیستم‌های هوش مصنوعی برای ایجاد محتوای جعلی که امنیت ملی را به خطر می‌اندازد، ممنوع است.

قانون هوش مصنوعی که اخیراً توسط مجلس ملی تصویب شده است، اقدامات ممنوعه در فعالیت‌های هوش مصنوعی (AI)، از جمله استفاده از سیستم‌های هوش مصنوعی برای ایجاد یا انتشار محتوای جعلی که می‌تواند امنیت ملی، نظم عمومی و امنیت اجتماعی را به طور جدی به خطر بیندازد، تصریح می‌کند.

بعدازظهر دهم دسامبر، مجلس ملی قانون هوش مصنوعی را با رأی مثبت ۴۲۹ نفر از ۴۳۴ نماینده حاضر (معادل ۹۰.۷٪ از کل نمایندگان مجلس ملی) تصویب کرد.

قانون هوش مصنوعی شامل ۸ فصل و ۳۵ ماده است که تحقیق، توسعه، ارائه، استقرار و استفاده از سیستم‌های هوش مصنوعی؛ حقوق و تعهدات سازمان‌ها و افراد مربوطه؛ و مدیریت دولتی فعالیت‌های هوش مصنوعی در ویتنام را تنظیم می‌کند. فعالیت‌های هوش مصنوعی صرفاً برای اهداف دفاع ملی، امنیت و رمزنگاری تحت پوشش این قانون قرار نمی‌گیرند.

نتایج رأی‌گیری برای تصویب قانون هوش مصنوعی. (عکس: DUY LINH)

۴ اصل اساسی در عملیات هوش مصنوعی

طبق قانونی که اخیراً توسط مجلس ملی تصویب شده است، فعالیت‌های هوش مصنوعی باید چهار اصل اساسی را رعایت کنند، از جمله:

قرار دادن مردم در مرکز توجه، تضمین حقوق بشر، حقوق حریم خصوصی، منافع ملی، منافع عمومی و امنیت ملی؛ پایبندی به قانون اساسی و سایر قوانین.

هوش مصنوعی در خدمت بشریت است، نه جایگزین اختیار و مسئولیت انسانی. این هوش، حفظ کنترل انسان و توانایی دخالت در تمام تصمیمات و رفتارهای سیستم هوش مصنوعی؛ امنیت سیستم، امنیت داده‌ها و محرمانگی اطلاعات؛ و توانایی بازرسی و نظارت بر توسعه و عملکرد سیستم را تضمین می‌کند.

تضمین انصاف، شفافیت، بی‌طرفی، عدم تبعیض و عدم آسیب به افراد یا جامعه؛ پایبندی به استانداردهای اخلاقی و ارزش‌های فرهنگی ویتنام؛ و مسئولیت‌پذیری در قبال تصمیمات و پیامدهای سیستم.

ترویج توسعه هوش مصنوعی سبز، فراگیر و پایدار؛ تشویق توسعه و کاربرد فناوری‌های هوش مصنوعی که از نظر انرژی کارآمد، صرفه‌جویی در منابع و کاهش تأثیرات منفی بر محیط زیست هستند.

طبقه‌بندی و مدیریت سیستم‌های هوش مصنوعی بر اساس ریسک

قانون هوش مصنوعی، طبقه‌بندی و مدیریت سیستم‌های هوش مصنوعی را بر اساس سه سطح ریسک بالا، متوسط ​​و پایین تصریح می‌کند.

سیستم‌های هوش مصنوعی پرخطر، آن‌هایی هستند که می‌توانند آسیب قابل توجهی به زندگی، سلامت، حقوق و منافع مشروع سازمان‌ها و افراد، منافع ملی، منافع عمومی و امنیت ملی وارد کنند.

یک سیستم هوش مصنوعی با ریسک متوسط، سیستمی است که پتانسیل گیج کردن، تأثیرگذاری یا دستکاری کاربران را دارد، زیرا آنها قادر به تشخیص این نیستند که موجودیت متقابل یک سیستم هوش مصنوعی است یا محتوایی که تولید می‌کند.

سیستم‌های هوش مصنوعی باقی‌مانده، سیستم‌هایی با ریسک پایین هستند.

طبقه‌بندی ریسک سیستم‌های هوش مصنوعی بر اساس معیارهایی مانند میزان تأثیر بر حقوق بشر، ایمنی و امنیت؛ حوزه استفاده از سیستم، به‌ویژه حوزه‌های ضروری یا حوزه‌هایی که مستقیماً با منافع عمومی مرتبط هستند؛ دامنه کاربران؛ و میزان نفوذ سیستم تعیین می‌شود.

وزیر علوم و فناوری، نگوین مان هونگ، گزارش پذیرش، توضیح و اصلاح پیش‌نویس قانون را قبل از رأی‌گیری مجلس ملی ارائه می‌دهد. (عکس: DUY LINH)

رفتارهای ممنوعه در عملیات هوش مصنوعی

قانون هوش مصنوعی همچنین اقدامات ممنوعه در فعالیت‌های هوش مصنوعی را تصریح می‌کند، به طور خاص:

سوءاستفاده یا ربودن سیستم‌های هوش مصنوعی برای ارتکاب اعمال غیرقانونی و نقض حقوق و منافع مشروع سازمان‌ها و افراد.

توسعه، ارائه، استقرار یا استفاده از سیستم‌های هوش مصنوعی به منظور: ارتکاب اعمال ممنوعه طبق قانون؛ استفاده از افراد یا رویدادهای واقعی جعلی یا شبیه‌سازی شده برای فریب یا دستکاری عمدی و سیستماتیک ادراک و رفتار انسان، که باعث آسیب جدی به حقوق بشر و منافع مشروع می‌شود؛ سوءاستفاده از نقاط ضعف گروه‌های آسیب‌پذیر، از جمله کودکان، سالمندان، افراد دارای معلولیت، اقلیت‌های قومی یا افراد دارای معلولیت یا ظرفیت مدنی محدود، یا افراد دارای مشکلات شناختی یا مشکلات کنترل رفتاری، برای آسیب رساندن به خود یا دیگران؛ ایجاد یا انتشار محتوای جعلی که قادر به به خطر انداختن جدی امنیت ملی، نظم عمومی و امنیت اجتماعی باشد.

جمع‌آوری، پردازش یا استفاده از داده‌ها برای توسعه، آموزش، آزمایش یا بهره‌برداری از سیستم‌های هوش مصنوعی که ناقض قوانین مربوط به داده‌ها، حفاظت از داده‌های شخصی، مالکیت معنوی و امنیت سایبری است.

مسدود کردن، غیرفعال کردن یا تحریف سازوکارهای انسانی برای نظارت، مداخله و کنترل سیستم‌های هوش مصنوعی، طبق آنچه در این قانون تصریح شده است.

پنهان کردن اطلاعاتی که باید افشا، عمومی یا توضیح داده شوند؛ پاک کردن یا جعل اطلاعات، برچسب‌ها یا هشدارهای اجباری در عملیات هوش مصنوعی.

سوءاستفاده از فعالیت‌های تحقیق، آزمایش، ارزیابی یا تأیید مربوط به سیستم‌های هوش مصنوعی برای انجام اقداماتی که قانون را نقض می‌کنند.

ون توآن

منبع: https://nhandan.vn/cam-su-dung-he-thong-ai-tao-noi-dung-gia-mao-gay-nguy-hai-an-ninh-quoc-gia-post929261.html