دیپ فیک جنگ غزه نگرانی‌هایی را در مورد هوش مصنوعی ایجاد کرده است

این تصاویر که میلیون‌ها بار به صورت آنلاین دیده شده‌اند، دیپ‌فیک‌هایی هستند که با استفاده از هوش مصنوعی ساخته شده‌اند. اگر با دقت نگاه کنید، می‌توانید نشانه‌های آشکاری را ببینید: انگشتانی با انحنای عجیب یا چشمانی که با نوری غیرطبیعی می‌درخشند.

با این حال، خشمی که آن تصاویر دیپ‌فیک ایجاد می‌کنند، واقعی است.

عکس‌های جنگ اسرائیل و حماس به وضوح و به طرز دردناکی خطرات هوش مصنوعی را به عنوان ابزاری تبلیغاتی برای خلق تصاویر واقعی نشان می‌دهند.

از زمان آغاز درگیری‌ها در ماه گذشته، عکس‌های دستکاری‌شده دیجیتالی که در رسانه‌های اجتماعی منتشر شده‌اند، برای طرح ادعاهای دروغین در مورد مسئولیت تلفات یا گمراه کردن مردم در مورد جنایاتی که هرگز اتفاق نیفتاده‌اند، مورد استفاده قرار گرفته‌اند.

تصاویر دیپ فیک از جنگ غزه نگرانی‌های جدیدی را برانگیخته است (تصویر ۱) — یک فلسطینی در حال جمع‌آوری وسایل از زیر آوار در غزه. عکس از آسوشیتدپرس.

پیشرفت‌های تکنولوژیکی با فرکانس فزاینده و نظارت کم در حال وقوع هستند. این امر خطر تبدیل شدن هوش مصنوعی به شکل دیگری از سلاح را روشن می‌کند و نگاهی اجمالی به آنچه در درگیری‌ها، انتخابات و سایر رویدادهای مهم آینده رخ خواهد داد، ارائه می‌دهد.

ژان کلود گلدنشتاین، مدیرعامل CREOpoint، یک شرکت فناوری مستقر در سانفرانسیسکو و پاریس که از هوش مصنوعی برای ارزیابی اعتبار شکایات آنلاین استفاده می‌کند، گفت: «اوضاع قبل از اینکه بهتر شوند، خیلی بدتر خواهند شد.»

شرکت او پایگاه داده‌ای از پربازدیدترین تصاویر دیپ‌فیک منتشر شده از غزه را گردآوری کرده است. او گفت: «تصاویر، ویدیوها و صدا: با هوش مصنوعی خلاقانه، این گامی رو به جلو است که قبلاً هرگز ندیده‌اید.»

عمران احمد، مدیرعامل مرکز مقابله با نفرت‌پراکنی دیجیتال، یک سازمان غیرانتفاعی که اطلاعات نادرست مرتبط با جنگ را ردیابی می‌کند، گفت مبلغانی که چنین تصاویری را خلق می‌کنند، در هدف قرار دادن عمیق‌ترین انگیزه‌ها و اضطراب‌های مردم مهارت دارند.

هرچه تصویر ترسناک‌تر باشد، احتمال اینکه کاربران آن را به خاطر بسپارند و به اشتراک بگذارند، بیشتر است و این باعث می‌شود ناخواسته اطلاعات نادرست بیشتری منتشر شود. اطلاعات نادرست مشابه تولید شده توسط هوش مصنوعی از زمان درگیری روسیه و اوکراین واقعاً شروع به پخش شدن در فضای مجازی کرده‌اند.

هر فصل جدید درگیری یا انتخابات، فرصت‌های جدیدی را برای انتشاردهندگان اطلاعات نادرست فراهم می‌کند. این امر باعث شده است که بسیاری از کارشناسان هوش مصنوعی و دانشمندان علوم سیاسی نسبت به خطرات سال آینده، زمانی که چندین کشور از جمله ایالات متحده، هند، پاکستان، اوکراین، اندونزی و مکزیک انتخابات بزرگی برگزار می‌کنند، هشدار دهند.

خطر استفاده از هوش مصنوعی و رسانه‌های اجتماعی برای انتشار دروغ به رأی‌دهندگان آمریکایی، قانون‌گذاران هر دو حزب در واشنگتن را نگران کرده است. در جلسه استماع اخیر در مورد خطرات فناوری دیپ‌فیک، جری کانولی، نماینده دموکرات ویرجینیا در مجلس نمایندگان آمریکا، گفت که ایالات متحده باید در تأمین بودجه توسعه ابزارهای هوش مصنوعی که برای مقابله با سایر هوش‌های مصنوعی طراحی شده‌اند، سرمایه‌گذاری کند.

دیوید دورمن، استاد دانشگاه بوفالو، گفت: «پاسخ مؤثر به چالش‌های سیاسی و اجتماعی ناشی از اطلاعات نادرست تولید شده توسط هوش مصنوعی، هم به فناوری بهتر و هم به مقررات بهتر نیاز دارد.»

مای آن (طبق گزارش آسوشیتدپرس)

منبع