حقیقت در مورد عکس «ما چهار نفر ۹۰ ساله هستیم»

تصاویر/ویدیوهای تولید شده توسط هوش مصنوعی، ده‌ها هزار تعامل را در شبکه‌های اجتماعی جذب می‌کنند و باعث می‌شوند بسیاری از افراد آنها را با تصاویر واقعی اشتباه بگیرند.

تصاویر تولید شده توسط هوش مصنوعی هزاران تعامل را در فیسبوک جذب می‌کنند.

«ما چهار خواهر هستیم، امروز ۹۰ ساله می‌شویم، منتظر تبریک‌های شما هستیم.» این کپشن به همراه یک عکس کلاژ نوشته شده بود، که چهار دختر کوچک در بالا و چهار پیرزن در پایین، همگی با لبخندهای درخشان بر لب، بیش از ۴۵۰۰۰ لایک، نزدیک به ۹۰۰۰ کامنت و بیش از ۵۰۰ اشتراک‌گذاری را به خود جلب کرد.

در زیر، پست‌های زیادی وجود دارد که سلامتی این چهار "پیرمرد" را تبریک می‌گویند و زیبایی آنها را ستایش می‌کنند. با این حال، این یک نقاشی هوش مصنوعی است. حسابی که آن را به اشتراک گذاشته، حتی خودش این تصویر را خلق نکرده، بلکه آن را از یک منبع خارجی گرفته است.

به لطف توسعه ابزارهای هوش مصنوعی مانند Copilot، Midjourney یا DALL-E، کاربران می‌توانند تنها با یک دستور، تصاویر بسیار واقع‌گرایانه‌ای ایجاد کنند.

پیدا کردن تصاویر تولید شده توسط هوش مصنوعی در شبکه‌های اجتماعی کار سختی نیست. این تصاویر اغلب مضامین خانوادگی و زندگی دارند و با جذاب کردن احساسات، تعاملات زیادی را به خود جلب می‌کنند.

با وجود حضور گسترده آنها، تشخیص تصاویر تولید شده توسط هوش مصنوعی از تصاویر معمولی برای همه آسان نیست. علاوه بر «طعمه‌گذاری» ساده، این محتوا می‌تواند برای اهداف مخربی مانند جعل هویت و انتشار اخبار جعلی مورد سوءاستفاده قرار گیرد.

ابزار «لایک ماهیگیری» در شبکه‌های اجتماعی

در فیس‌بوک، اینستاگرام یا ایکس، کاربران می‌توانند به راحتی با تصاویر/ ویدیوهای ساخته شده توسط هوش مصنوعی مواجه شوند. محتوایی مانند «ما ۴ خواهر هستیم» یا «این دختر پرتره‌ای از پدر مرحومش کشیده اما هیچ‌کس از او حمایت نکرده»... ده‌ها هزار تعامل و هزاران نظر را به خود جلب می‌کند.

تصاویر عمدتاً مربوط به خانواده، عشق، غم و اندوه هستند... بیشتر نظرات ابراز همدردی با این پست بود، اکثر آنها تشخیص ندادند که تصویر توسط هوش مصنوعی ایجاد شده است. بسیاری از حساب‌های کاربری که این پست را ارسال کردند، به وضوح به آن اشاره نکردند.

برخی از تصاویر تولید شده توسط هوش مصنوعی در فیسبوک با عکس‌های واقعی اشتباه گرفته می‌شوند.

به گفته‌ی کارشناس بررسی محتوا، لو کونگ مین خوی، محتوای هوش مصنوعی به طور فزاینده‌ای در فیس‌بوک ظاهر می‌شود. بسیاری از پست‌ها توسط این پلتفرم با تعامل بالا توصیه می‌شوند، اما اکثر آنها به وضوح به عنوان ایجاد شده توسط هوش مصنوعی برچسب گذاری نشده‌اند.

«افرادی که آشنایی کمی با فناوری دارند، به سختی می‌توانند تفاوت را تشخیص دهند. هزاران نظر در مورد این پست حاکی از همدردی است، مثلاً اینکه «بسیار تأثیرگذار».

هوش مصنوعی به نقطه‌ای رسیده است که برخی از مدل‌های جدید می‌توانند خطاهای رایج مانند دست‌ها و دندان‌ها را اصلاح کنند. من خودم مجبورم تصاویر را دوباره بررسی کنم. بدون برچسب‌های اعلان هوش مصنوعی، کاربران تقریباً قادر به تشخیص آنها نخواهند بود.

طبق نظرسنجی منتشر شده در مارس 2024 توسط دانشگاه واترلو (کانادا)، تنها 61٪ از 260 شرکت کننده در نظرسنجی توانستند بین عکس‌های تولید شده توسط هوش مصنوعی از افراد و عکس‌های افراد واقعی تمایز قائل شوند، که کمتر از نرخ مورد انتظار محققان (85٪) است.

برخی از محتوای تولید شده توسط هوش مصنوعی، ده‌ها هزار تعامل را جذب می‌کند.

آقای خویی، به عنوان فردی که مرتباً در شبکه‌های اجتماعی فعالیت می‌کند، اظهار داشت که از تصاویر/ویدیوهای هوش مصنوعی برای افزایش بازدید، افزایش تعاملات یا حتی کلاهبرداری سوءاستفاده می‌شود.

آقای خویی افزود: «محتوای هوش مصنوعی به راحتی می‌تواند باعث شود بینندگان از نظر روانی دستکاری شوند، به چیزهایی باور داشته باشند که واقعیت ندارند، حتی آنها را به خرید محصولات بی‌کیفیت یا باور به تبلیغات ویرایش‌شده و نظریه‌های توطئه ترغیب کند...»

در واقع، مطالعه‌ای که در ماه مه ۲۰۲۴ توسط گوگل و دانشگاه دوک (ایالات متحده آمریکا) منتشر شد، نشان داد که در میان اشکال انتشار اطلاعات نادرست، محبوبیت تصاویر هوش مصنوعی تقریباً برابر با متن و عکس‌های ویرایش‌شده‌ی معمولی است.

چگونه تصاویر تولید شده توسط هوش مصنوعی را تشخیص دهیم؟

کیفیت تصاویر تولید شده توسط هوش مصنوعی روز به روز بهتر می‌شود و تشخیص آنها از عکس‌های واقعی را دشوار می‌کند. با این حال، کاربران هنوز هم می‌توانند در صورت نگاه دقیق‌تر به برخی جزئیات اعتماد کنند.

هوش مصنوعی اغلب تصاویر را بر اساس داده‌های سایر تصاویر تولید می‌کند، بنابراین ابزارها ممکن است با جزئیات کمتر آموزش‌دیده مشکل داشته باشند.

به گفته نگو مین هیو، متخصص امنیت، دست‌ها و انگشتان جزئیات قابل توجهی هستند زیرا هوش مصنوعی اغلب در بازآفرینی دست‌ها مشکل دارد و منجر به تصاویری با انگشتان اضافی یا تغییر شکل یافته می‌شود.

تصویر تولید شده توسط هوش مصنوعی از بازیگر رایان رینولدز. عکس: @joinrealmai/X .

این عکس از رایان رینولدز را در نظر بگیرید. اگرچه بیشتر آن واقع‌گرایانه است، اما انگشتان دست راست رینولدز به شکلی غیرطبیعی طراحی شده‌اند. متن روی ژاکت او نیز کاملاً بی‌معنی است. این نشانه‌ی واضحی است که تصویر توسط هوش مصنوعی ایجاد شده است، زیرا هنوز متن یا لوگوهای دقیقی ایجاد نکرده است.

در مرحله بعد، می‌توان اثرات نور و سایه را در تصویر ردیابی کرد. اگر زاویه نور یا سایه غیرمعمول باشد، احتمالاً تصویر توسط هوش مصنوعی تولید شده است.

برای محتوایی که زمینه یکسانی دارد، کاربران باید جزئیات تکراری را بررسی کنند زیرا هوش مصنوعی اغلب در تولید عناصر کاملاً متفاوت مشکل دارد.

به گفته بی‌بی‌سی ، این نمونه‌ای از «بیش از حد بی‌نقص» است. تصویر خواننده آریانا گرانده در زیر بسیار واقعی به نظر می‌رسد، اما اگر از نزدیک نگاه کنید، خواهید دید که صورت او بیش از حد صاف است و باعث می‌شود عکس بسیار واضح باشد. چیدمان فلامینگوها در پس‌زمینه نیز خوب نیست.

تصویر تولید شده توسط هوش مصنوعی از خواننده آریانا گرانده. عکس: @agswaffle/Instagram .

اگر محتوا در قالب ویدیو است، جزئیاتی که باید بررسی شوند شامل حرکات لب است که ممکن است با گفتار مطابقت نداشته باشد، پلک زدن کم یا غیرطبیعی چشم‌ها، پوست با بافت تار و ...

در نهایت، اگر هنوز در مورد چهره، دست یا نورپردازی مطمئن نیستید، باید در گوگل و ابزارهای مشابه جستجوی معکوس انجام دهید تا منبع آن را مشخص کنید.

آقای هیو افزود: «اگر در مورد اصالت یک تصویر شک دارید، می‌توانید از یک موتور جستجوی معکوس استفاده کنید تا بررسی کنید که آیا تصویر قبلاً در جای دیگری ظاهر شده است یا خیر.»