متا برچسب‌گذاری تصاویر تولید شده توسط هوش مصنوعی در فیسبوک

نیک کلگ، رئیس امور جهانی در متا، گفت که این شرکت از مجموعه‌ای از نشانگرهای تعبیه‌شده در فایل‌ها استفاده خواهد کرد. این شرکت برچسب‌هایی را برای هر محتوایی که در سرویس‌های فیس‌بوک، اینستاگرام و Threads خود ارسال می‌شود، اعمال خواهد کرد و به کاربران نشان می‌دهد که تصاویر (که ممکن است عکس‌های واقعی به نظر برسند) در واقع ساخته‌های دیجیتالی تولید شده توسط هوش مصنوعی هستند. به گزارش رویترز، این شرکت همچنین محتوای ایجاد شده با ابزارهای هوش مصنوعی خود را برچسب‌گذاری کرده است.

به محض راه‌اندازی سیستم جدید، متا همین کار را برای تصاویر تولید شده در سرویس‌های OpenAI، مایکروسافت، ادوبی، Midjourney، Shutterstock و Alphabet انجام خواهد داد. این اعلامیه اولین خبر از استاندارد جدیدی است که شرکت‌های فناوری در حال توسعه آن هستند تا مضرات هوش مصنوعی مولد را کاهش دهند، هوش مصنوعی مولد می‌تواند حتی از محتوای ساده نیز محتوای جعلی ایجاد کند.

برچسب‌گذاری تصاویر تولید شده توسط هوش مصنوعی به مهار اطلاعات نادرست و کلاهبرداری کمک می‌کند

این رویکرد بر اساس الگویی بنا شده است که طی دهه گذشته توسط شرکت‌ها برای هماهنگی حذف محتوای ممنوعه در پلتفرم‌ها مانند تصاویر خشونت جمعی و استثمار کودکان ایجاد شده است.

کلگ معتقد است که شرکت‌ها در حال حاضر می‌توانند تصاویر تولید شده توسط هوش مصنوعی را با اطمینان برچسب‌گذاری کنند، ضمن اینکه خاطرنشان می‌کند ابزارهای برچسب‌گذاری محتوای صوتی و تصویری پیچیده‌تری هنوز در دست توسعه هستند.

متا از کاربران خواهد خواست تا محتوای صوتی و تصویری تغییر یافته را برچسب‌گذاری کنند و در صورت عدم انجام این کار، جریمه‌هایی را اعمال خواهد کرد، اما کلگ گفت در حال حاضر هیچ مکانیسم مناسبی برای برچسب‌گذاری متن تولید شده توسط ابزارهای هوش مصنوعی مانند ChatGPT وجود ندارد.

هیئت نظارت مستقل متا از سیاست این شرکت در مورد ویدیوهای ویرایش‌شده‌ی گمراه‌کننده انتقاد کرده و گفته است که محتوا باید برچسب‌گذاری شود نه اینکه حذف شود، بنابراین کلگ گفته است که اقدام جدید متا می‌تواند به طبقه‌بندی بهتر چنین محتوایی کمک کند.

لینک منبع: https://thanhnien.vn/meta-gan-nhan-hinh-anh-do-ai-tao-ra-tren-facebook-18524020711453543.htm