ابزار جدید هوش مصنوعی استرالیا با تصاویر دیپ فیک مضر مبارزه می‌کند

به گزارش خبرنگار VNA در سیدنی، دانشگاه موناش و پلیس فدرال استرالیا (AFP) در حال همکاری برای توسعه یک ابزار جدید و پیشگامانه هوش مصنوعی (AI) هستند تا سرعت ایجاد تصاویر جعلی عمیق مضر و مطالب کودک آزاری با استفاده از هوش مصنوعی توسط مجرمان را کاهش داده و از آن جلوگیری کنند.

این ابزار که Silverer نام دارد، محصول آزمایشگاه هوش مصنوعی برای اجرای قانون و امنیت جامعه (AiLECS) است، یک همکاری تحقیقاتی استراتژیک بین AFP و دانشگاه موناش که هوش مصنوعی را برای چالش‌های پیچیده اجرای قانون و امنیت به کار می‌گیرد. این ابزار که در حال حاضر در مرحله آزمایشی خود قرار دارد، تحت رهبری دانشجوی دکترای دانشگاه موناش، الیزابت پری، در حال توسعه است.

طبق گفته دانشگاه موناش، این پروژه از تکنیکی به نام «مسمومیت داده» به عنوان تکنیک اصلی در این ابزار جدید استفاده می‌کند. این تکنیک شامل تغییر نامحسوس داده‌های منبع آنلاین است و ایجاد، دستکاری و سوءاستفاده از تصاویر یا ویدیوها را برای مدل‌های هوش مصنوعی و یادگیری ماشینی (ML) به طور قابل توجهی دشوارتر می‌کند.

از آنجایی که ابزارهای هوش مصنوعی به حجم زیادی از داده‌های منبع نیاز دارند، آلوده‌سازی داده‌ها باعث می‌شود مدل نتایج نادرست، منحرف یا خراب تولید کند و تشخیص تصاویر یا ویدیوهای جعلی ایجاد شده توسط مجرمان را آسان‌تر کند.

پری، دانشجوی دکترا، توضیح می‌دهد که کاربران می‌توانند از Silverer برای ویرایش تصاویر قبل از آپلود آنها در رسانه‌های اجتماعی یا اینترنت استفاده کنند. این کار پیکسل‌ها را برای فریب مدل هوش مصنوعی تغییر می‌دهد و خروجی آنها را تحریف شده، پوشیده از "اعوجاج" یا کاملاً غیرقابل تشخیص می‌کند.

دانشیار کمپبل ویلسون - مدیر مشترک AiLECS و متخصص پزشکی قانونی دیجیتال - گفت که ایجاد تصاویر جعلی و مخرب با استفاده از فناوری منبع باز به دلیل سهولت استفاده از آن، به یک مشکل جدی‌تر تبدیل شده است.

خبرگزاری فرانسه افزایش محتوای کودک‌آزاری تولید شده توسط هوش مصنوعی را مستند کرده است، زیرا مجرمان از این فناوری برای تولید و اشتراک‌گذاری مقادیر زیادی پورنوگرافی جعلی به صورت آنلاین سوءاستفاده می‌کنند.

دانشگاه موناش اعلام کرد که هدف کلی پروژه سیلورر، توسعه فناوری آسان برای استفاده استرالیایی‌هایی است که می‌خواهند از اطلاعات شخصی خود در رسانه‌های اجتماعی محافظت کنند. در حال حاضر، یک نسخه آزمایشی از این ابزار برای استفاده داخلی در AFP در نظر گرفته شده است.

(TTXVN/ویتنام+)

منبع: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp