شفافیت محصولات هوش مصنوعی

بسیاری از محصولات هوش مصنوعی (AI) امروزه سطح مداخله فناوری را فاش نمی‌کنند و این امر تشخیص واقعی از جعلی را برای کاربران دشوار می‌کند. با توجه به این وضعیت، تعریف واضح تعهد به شفافیت و برچسب‌گذاری محصولات هوش مصنوعی به یک الزام فوری تبدیل شده است.

غرفه نمایشگاهی FPT در مورد کاربردهای هوش مصنوعی در زمینه‌های مختلف.

امروزه، از ایجاد محتوای بصری، صوتی و متنی گرفته تا پشتیبانی تصمیم‌گیری خودکار، بسیاری از محصولات هوش مصنوعی بدون برچسب هستند و به عنوان محتوای معمولی به اشتراک گذاشته می‌شوند. نتیجه این است که کاربران نمی‌دانند که آیا با محتوای تولید شده توسط انسان یا هوش مصنوعی در تعامل هستند و ممکن است به اطلاعات نادرست یا دستکاری شده باور داشته باشند.

برای مثال، یک سالن زیبایی یک تبلیغ تولید شده توسط هوش مصنوعی را با تصویر یک مدل منتشر می‌کند و باعث می‌شود مشتریان به اشتباه باور کنند که واقعی است، اما وقتی خدمات را تجربه می‌کنند، متوجه می‌شوند که کیفیت آنطور که تبلیغ شده نیست. خطرناک‌تر این است که هوش مصنوعی عکس‌های جعلی از افراد مشهور، ویدیوهایی که اظهارات سیاستمداران را شبیه‌سازی می‌کنند یا مقالاتی که توسط هوش مصنوعی اما با نام افراد واقعی ایجاد می‌شوند، ایجاد می‌کند و به آبروی شخصی و اعتبار آژانس‌ها و سازمان‌ها آسیب می‌رساند.

علاوه بر این، فقدان مکانیسم برچسب‌گذاری، اعتماد کاربران به پلتفرم‌های دیجیتال و محصولات هوش مصنوعی را کاهش می‌دهد. یک محیط دیجیتال که در مورد منشأ محتوا شفاف نباشد، کاربران را مشکوک و از آنها دور می‌کند. در همین حال، اکثر کاربران ویتنامی عادت به شناسایی و تأیید منشأ محتوا ندارند و ابزارهای فنی برای تشخیص محصولات هوش مصنوعی محدود است.

تعریف شفاف تعهدات مربوط به شفافیت و برچسب‌گذاری نه تنها یک الزام اخلاقی فناوری است، بلکه مبنای قانونی برای محافظت از کاربران و توسعه‌دهندگان محصولات هوش مصنوعی نیز می‌باشد. برای برآورده کردن این الزام، وزارت علوم و فناوری در حال تدوین قانون هوش مصنوعی است که ماده ۱۲ آن «شفافیت، برچسب‌گذاری و پاسخگویی» را تصریح می‌کند.

بر این اساس، برچسب‌گذاری به معنای اعمال اقدامات فنی برای اطلاع‌رسانی واضح، قابل تشخیص و خوانا توسط ماشین است که محتوا (متن، تصویر، صدا، ویدیو) توسط سیستم‌های هوش مصنوعی ایجاد یا به طور قابل توجهی تغییر داده شده است. این اطلاع‌رسانی باید زمانی انجام شود که محتوا به طور گسترده منتشر شده باشد.

این آیین‌نامه، الزامات برچسب‌گذاری اجباری را برای محصولاتی که توسط هوش مصنوعی ایجاد یا ویرایش می‌شوند، تعیین می‌کند و هدف آن شفاف‌سازی فضای دیجیتال، محافظت از مصرف‌کنندگان و الزام تأمین‌کنندگان و توسعه‌دهندگان به مسئولیت مشترک در صورت عدم برچسب‌گذاری و ایجاد سردرگمی یا خسارت است.

برای محتوایی که افراد، اشیاء، مکان‌ها یا رویدادهای واقعی را شبیه‌سازی می‌کند، پیش‌نویس قانون تصریح می‌کند که ارائه‌دهندگان باید اقداماتی را برای شناسایی واضح اینکه محتوا توسط هوش مصنوعی ایجاد شده است، اعمال کنند و قابلیت احراز هویت و ردیابی منشأ آن را تضمین کنند. این گامی مهم در مدیریت فناوری هوش مصنوعی محسوب می‌شود، مطابق با روندهای بین‌المللی که اتحادیه اروپا (EU)، ایالات متحده، ژاپن و کره جنوبی همگی مقررات مشابهی را صادر کرده‌اند.

علیرغم توافق بر سر ضرورت این امر، بسیاری از کارشناسان و کسب‌وکارها معتقدند که مقررات برچسب‌گذاری در پیش‌نویس قانون باید دقیق‌تر باشد. وکیل هوانگ لو کوان، از شرکت حقوقی با مسئولیت محدود تجاری ویتنام (Lexcomm Vietnam LLC)، معتقد است که لازم است روشن شود که آیا ارائه‌دهندگان هوش مصنوعی می‌توانند خودشان در مورد شکل برچسب‌گذاری تصمیم بگیرند یا باید از دستورالعمل‌های دولت پیروی کنند.

اگر دستورالعمل‌هایی وجود دارد، باید واضح باشند و هماهنگی با استانداردهای بین‌المللی را تضمین کنند، به طوری که از متفاوت بودن کامل الزامات ویتنام یا ایجاد تعهدات جدید، به ویژه برای تأمین‌کنندگان چندملیتی، جلوگیری شود و بر رقابت‌پذیری ویتنام در کاربرد و توسعه هوش مصنوعی در مقایسه با سایر بازارها مانند اتحادیه اروپا، کره جنوبی یا ایالات متحده تأثیر نگذارد.

برخی از نظرات بر لزوم تعریف واضح دامنه و سطح کاربرد تأکید دارند، اینکه آیا همه محتواهای دارای عناصر هوش مصنوعی باید برچسب‌گذاری شوند، یا فقط محصولاتی که کاملاً توسط هوش مصنوعی ایجاد شده‌اند یا به طور قابل توجهی در آنها مداخله شده است. آقای تران ون تری، مدیر شرکت سهامی رسانه‌های حقوقی ویتنام (LuatVietnam.vn) گفت وقتی محتوا فقط بخش کوچکی از هوش مصنوعی را در خود جای داده است، آیا برچسب‌گذاری آن ضروری است یا خیر؟ لازم است به وضوح بیان شود که آیا هوش مصنوعی به خلق آن کمک کرده است یا هوش مصنوعی کاملاً آن را خلق کرده است.

در صنعت سرگرمی، برخی شرکت‌ها خواهان سازوکاری انعطاف‌پذیر برای معافیت محصولات هوش مصنوعی از الزامات سختگیرانه برچسب‌گذاری هستند و در عوض، بسته به سطح استفاده، هشدارها یا خودافشاگری شفاف را اعمال می‌کنند. هوش مصنوعی به طور گسترده برای بهبود صدا، تصاویر و جلوه‌های ویژه استفاده می‌شود. اگر همه ملزم به برچسب‌گذاری باشند، هزینه‌ها و رویه‌ها افزایش می‌یابد و مانع خلاقیت می‌شود.

رهبر وزارت علوم و فناوری گفت که پیش‌نویس قانون هوش مصنوعی در راستای یافتن تعادل معقول بین مدیریت و تشویق توسعه، تضمین شفافیت، امکان‌پذیری و نزدیک شدن به استانداردهای بین‌المللی تدوین شده است. هدف از برچسب‌گذاری، روشن کردن مرز بین محتوای تولید شده توسط انسان و محتوای تولید شده توسط ماشین است، و از هر دو افراط در مدیریت سهل‌انگارانه یا سخت‌گیری بیش از حد اجتناب می‌شود، به طوری که فناوری بتواند در یک چارچوب شفاف و مسئولانه توسعه یابد.

ها لین

منبع: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html