دیپ‌فیک‌های سیاسی در صدر فهرست کاربران مخرب هوش مصنوعی قرار دارند.

تحقیقات گوگل دیپ‌مایند نشان می‌دهد که ایجاد تصاویر، ویدیوها و صداهای جعلی انسانی تقریباً دو برابر بیشتر از ایجاد اطلاعات نادرست با استفاده از ابزارهایی مانند چت‌بات‌های هوش مصنوعی رایج است.

تجزیه و تحلیل‌ها نشان می‌دهد که رایج‌ترین هدف سوءاستفاده‌کنندگان از هوش مصنوعی مصنوعی، شکل‌دهی یا تأثیرگذاری بر افکار عمومی است. این رقم ۲۷ درصد از استفاده را تشکیل می‌دهد و نگرانی‌هایی را در مورد چگونگی تأثیر دیپ‌فیک‌ها بر انتخابات جهانی امسال ایجاد می‌کند.

یک اثر هنری جعلی که ریشی سوناک، نخست وزیر بریتانیا را به تصویر می‌کشد، پیش از انتخابات عمومی در تیک تاک و اینستاگرام منتشر شد. عکس: خبرگزاری فرانسه

در ماه‌های اخیر، ویدیوهای دیپ‌فیک از ریشی سوناک، نخست‌وزیر بریتانیا، و همچنین دیگر رهبران جهان در تیک‌تاک، ایکس و اینستاگرام منتشر شده است. رأی‌دهندگان بریتانیایی هفته آینده در انتخابات عمومی به پای صندوق‌های رأی خواهند رفت.

نگرانی‌هایی وجود دارد که علیرغم تلاش‌های پلتفرم‌های رسانه‌های اجتماعی برای برچسب‌گذاری یا حذف چنین محتوایی، مخاطبان ممکن است آن را به عنوان جعلی تشخیص ندهند و انتشار آن می‌تواند بر رأی‌دهندگان تأثیر بگذارد.

آردی جانجوا، یکی از محققان موسسه آلن تورینگ، یافته‌های این مقاله را «به‌ویژه مرتبط» خواند و اظهار داشت که اطلاعات عمومی تولید شده توسط هوش مصنوعی می‌تواند «درک مشترک ما از واقعیت اجتماعی -سیاسی را تحریف کند».

جانجوا افزود: «حتی اگر در مورد تأثیر دیپ‌فیک بر رفتار رأی‌دهندگان مطمئن نباشیم، تشخیص این تحریف ممکن است در کوتاه‌مدت دشوار باشد و در درازمدت خطری برای دموکراسی ایجاد کند.»

ناهما مارشال، محقق و نویسنده اصلی این مطالعه در گوگل دیپ‌مایند، گفت: «نگرانی‌های زیادی در مورد حملات سایبری نسبتاً پیچیده‌ای که این ابزارها می‌توانند ایجاد کنند، وجود داشته است.»

محققان گوگل دیپ‌مایند و جیگ‌سا تقریباً ۲۰۰ مورد سوءاستفاده از هوش مصنوعی را از ژانویه ۲۰۲۳ تا مارس ۲۰۲۴ تجزیه و تحلیل کردند که از پلتفرم‌های رسانه‌های اجتماعی X و ردیت و همچنین وبلاگ‌های آنلاین و گزارش‌های رسانه‌ای در مورد سوءاستفاده تهیه شده بود.

دومین انگیزه رایج در پشت این سوءاستفاده، کسب درآمد است، از جمله ایجاد تصاویر برهنه از افراد واقعی یا استفاده از هوش مصنوعی برای تولید انواع مختلف محتوا، مانند مقالات خبری جعلی. در بیشتر موارد، از ابزارهایی استفاده می‌شود که به راحتی در دسترس هستند و "نیاز به حداقل تخصص فنی دارند"، به این معنی که بسیاری از بازیگران بد می‌توانند به طور خلاقانه از هوش مصنوعی سوءاستفاده کنند.

نگوک آنه (طبق گزارش فایننشال تایمز)

منبع: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-list-su-dung-ai-doc-hai-post300851.html