کنترل تصویر با هوش مصنوعی

اخیراً، بسیاری از کشورها به طور مداوم کنترل‌ها را از طریق برچسب‌گذاری و جریمه برای تخلفات مربوط به استفاده از تصاویر ایجاد شده با استفاده از فناوری هوش مصنوعی (AI) تشدید کرده‌اند.

در واقع، تصاویر و ویدیوهایی که با استفاده از هوش مصنوعی ایجاد می‌شوند، به یک روند فناوری جدید تبدیل شده‌اند که کاربردهای مثبت زیادی را به همراه دارند، اما در صورت استفاده برای اهداف نادرست یا غیرقانونی، خطرات قابل توجهی نیز به همراه دارند. این خطرات شامل نقض حریم خصوصی، استفاده برای کلاهبرداری، دستکاری افکار عمومی و جعل هویت می‌شود. بنابراین، کنترل برای جلوگیری از این خطرات ضروری است.

در حال حاضر، قانون هوش مصنوعی که از اول مارس در ویتنام لازم‌الاجرا است، مسئولیت‌های «طرف اجراکننده» - سازمان‌ها و افرادی که از سیستم‌های هوش مصنوعی تحت کنترل خود در فعالیت‌های حرفه‌ای، تجاری یا ارائه خدمات (به استثنای استفاده برای اهداف شخصی و غیرتجاری) استفاده می‌کنند - را نیز تصریح می‌کند. به عنوان مثال، بند ۴، ماده ۱۱ این قانون بیان می‌کند: طرف اجراکننده مسئول اطمینان از این است که صدا، تصاویر و ویدیوهایی که با استفاده از سیستم‌های هوش مصنوعی برای شبیه‌سازی یا تکثیر ظاهر و صدای افراد واقعی یا برای بازتولید رویدادهای واقعی ایجاد یا ویرایش می‌شوند، به وضوح برچسب‌گذاری شوند تا از محتوای واقعی متمایز شوند.

اینها مقررات ضروری هستند و اکثر «طرف‌های مجری» از همان ابتدا آنها را رعایت کرده‌اند. با این حال، بسیاری از تصاویر کاربران شخصی و غیرتجاری هنوز در رسانه‌های اجتماعی ظاهر می‌شوند و باعث سردرگمی و نادرستی قابل توجهی می‌شوند. این وضعیت، نیاز به تقویت بیشتر مقرراتی را که مستلزم برچسب‌گذاری اجباری و کنترل بر تصاویر استفاده‌کننده از هوش مصنوعی هستند، برجسته می‌کند.

اخیراً، دولت فرمان شماره ۱۷۴/۲۰۲۶/ND-CP را صادر کرد که مجازات‌های اداری را برای تخلفات در زمینه‌های خدمات پستی، مخابرات، فرکانس‌های رادیویی، تراکنش‌های الکترونیکی و فناوری اطلاعات تعیین می‌کند. نکته قابل توجه، مقررات مربوط به مجازات تخلفات مربوط به استفاده مسئولانه از خدمات رسانه‌های اجتماعی است. این فرمان از اول ژوئیه لازم‌الاجرا خواهد بود. این همچنین یک مبنای قانونی مهم برای اصلاح بسیاری از تخلفات رخ داده در فضای مجازی، به ویژه در شبکه‌های اجتماعی است. در واقع، شبکه‌های اجتماعی توسط بسیاری از افراد، سازمان‌ها و مشاغل بدون توجه به عواقب آن، برای سودآوری مورد سوءاستفاده قرار می‌گیرند، بنابراین باید به سرعت اصلاح شود.

با این حال، برای اینکه این چارچوب‌های قانونی واقعاً تغییرات مثبتی ایجاد کنند، نقش مقامات ذی‌ربط کاملاً حیاتی است. در کنار مقررات قانونی، مشارکت سازمان‌های ذی‌ربط ضروری است زیرا تخلفات به طور فزاینده‌ای عواقب جدی ایجاد می‌کنند. علاوه بر این، هر شهروند باید هنگام استفاده از محتوای تولید شده توسط هوش مصنوعی و فعالیت در رسانه‌های اجتماعی، آگاهی و درک خود را از قانون افزایش دهد، زیرا تخلفات اکنون می‌توانند عواقب قابل توجهی داشته باشند.

به گفته فات تین (TNO)

منبع: https://baogialai.com.vn/kiem-soat-hinh-anh-ai-post587963.html