دیپ فیک (جعل عمیق) شایع شده است - هیچ کس از ترفندهای جعل هویت هوش مصنوعی در امان نیست

تقلید صدا، تقلید چهره، لب‌خوانی... هوش مصنوعی اکنون نه تنها برای کار و سرگرمی، بلکه در حال تبدیل شدن به یک ابزار خطرناک کلاهبرداری تجاری است. تصاویر افراد مشهور، پزشکان و حتی راهبان توسط هوش مصنوعی جعل می‌شوند تا محصولات را در سراسر شبکه‌های اجتماعی بفروشند. مردم واقعی نمی‌دانند و خریداران اعتماد خود را از دست می‌دهند.

«قرض گرفتن چهره» برای فروش کالا

«مهم نیست زانوی اصلی‌تان چگونه است، فقط روش ما را اعمال کنید، ما تضمین می‌کنیم که ظرف ۷ روز به طور قابل توجهی بهبود می‌یابد، اگر کاملاً بی‌اثر باشد، من حاضرم ۱ میلیارد دونگ ویتنامی را به عنوان عذرخواهی صادقانه جبران کنم. اگر واقعاً هیچ تأثیری نبینید، ما متعهد به بازپرداخت ۱۰۰٪ وجه شما هستیم و من خودم حاضرم ۱ میلیارد دونگ ویتنامی را جبران کنم، هر کسی جرات نمی‌کند چنین کاری انجام دهد.» این جمله‌ای است که یک خواننده زن مشهور در تبلیغ یک کرم ماساژ تسکین درد مفاصل به اشتراک گذاشته است، اما لازم به ذکر است که این تبلیغ کاملاً توسط هوش مصنوعی ساخته شده است.

کلیپ تبلیغاتی بالا توسط یک حساب کاربری تیک تاک به نام LShop استفاده شده است که از تصویر، صدا و زبان بدن خواننده زن به شیوه‌ای واقع‌گرایانه استفاده می‌کند که بدون مشاهده دقیق قابل تشخیص نیست. این حساب کاربری نزدیک به ۹۰۰۰ دنبال‌کننده، ۶۷۰۰۰ لایک و هر کلیپ هزاران بازدید دارد. ویدیوی «تبلیغاتی» به تنهایی، با الهام از تصویر خواننده زن بالا، بیش از ۱۰۰۰ لایک و نزدیک به ۱۰۰ نظر برای خرید جذب کرده است.

با همان محصول کرم ماساژ، کانال‌های فروش همچنین یک نسخه دیپ‌فیک دیگر را «تولید» کردند، این بار یک پزشک. در این کلیپ، شخصیت با قاطعیت متعهد شد: «من معتبرترین پزشک ارتوپد در هانوی هستم و تضمین می‌کنم که حتی جدی‌ترین پارگی منیسک را می‌توان تنها در ۳ روز به طور کامل درمان کرد. این ژل توسط معتبرترین انجمن ارتوپدی در ویتنام تأیید شده است». این جمله توسط هوش مصنوعی برای مجموعه‌ای از «پزشکان» دیگر بازسازی شد و بینندگان به راحتی آن را با واقعیت اشتباه گرفتند.

این کلیپ نزدیک به ۴۰۰۰ لایک و بیش از ۱۲۰ نظر دریافت کرد، اما وقتی برای سفارش پیامک دادیم، حساب کاربری پاسخی نداد و در بخش نظرات نیز با بینندگان تعامل نکرد و فقط محصول را برای خرید مستقیم در سبد خرید گذاشت. نکته قابل توجه این است که محصول برای فروش از چین آمده بود و اطلاعات محصول بسیار مبهم بود.

از خوانندگان، افراد مشهور گرفته تا پزشکان، همگی توسط کانال‌های فروشی که کلیپ‌های هوش مصنوعی برای فروش محصولات مرتبط با سلامت می‌سازند، جعل هویت شده‌اند.

ترفند دیپ‌فیک به همین جا ختم نمی‌شود، بلکه به مسائل معنوی نیز سرایت کرده است. یک حساب کاربری تیک‌تاک به نام Phat Phap NM نه تنها سخنرانی‌های استاد TPH را بازنشر کرد، بلکه از فناوری هوش مصنوعی برای ایجاد تصاویری از «استاد» در حال فروش محصولاتی مانند برگ‌های بودی و دستبندهای چوب آگار استفاده کرد.

وقتی بینندگان نظرات خود را برای خرید گذاشتند، کانال پاسخ داد: «اگر همه چیز طبق برنامه پیش نرفت، به بخش نمایش در حساب من بروید و آنچه را که نیاز دارید انتخاب کنید، در مورد پول خرد خساست نکنید و پول بزرگتر را نادیده بگیرید.» بلافاصله پس از آن، خود این راهب مجبور شد صحبت کند تا روشن کند که هرگز چنین محصولاتی را تبلیغ نکرده یا در تولید آنها نقشی نداشته است.

مرز بین خلاقیت و تخلف

نگو مین هیو (Ngo Minh Hieu) متخصص امنیت سایبری از مرکز ملی نظارت بر امنیت سایبری (NCSC) گفت که کلیپ‌های تبلیغاتی جعلی که در شبکه‌های اجتماعی پخش می‌شوند، عمدتاً با نرم‌افزار دیپ‌فیک (Deepfake) ساخته می‌شوند. این نرم‌افزارها کمیاب نیستند، بسیاری از سرویس‌ها حتی بسته‌هایی با هزینه‌های کم و عملیات بسیار ساده ارائه می‌دهند. اگرچه به گفته آقای هیو، کاربردهای مثبتی در زمینه تولید محتوای دیجیتال و رسانه وجود دارد، اما مشکل این است که برخی افراد از این فناوری برای اهداف منفی مانند کلاهبرداری، جعل هویت، انتشار اخبار جعلی یا بدنام کردن دیگران از طریق ویدیوهایی که واقعی به نظر می‌رسند، سوءاستفاده کرده‌اند.

آقای هیو همچنین نشانه‌هایی را برای کمک به شناسایی کلیپ‌های دیپ‌فیک ارائه داد، مانند حالت‌های چهره تا حدودی سفت در ویدیو، شکل دهان و حرکاتی که با دیالوگ‌ها مطابقت ندارند... آقای هیو هشدار داد که موقعیت‌های جدی‌تری وجود داشته است که در آن‌ها از هوش مصنوعی برای قرار دادن چهره قربانیان در ویدیوهای حساس به منظور ارعاب، اجبار و سودجویی استفاده شده است.

به گفته وکیل تران دوک فونگ، از کانون وکلای شهر هوشی مین، استفاده از هوش مصنوعی برای ایجاد تصاویر افراد مشهور (یا افراد خاص) بدون رضایت آنها، عملی نقض حقوق شخصی، به ویژه حق تصویر است، همانطور که در ماده ۳۲ قانون مدنی ۲۰۱۵ تصریح شده است. این قانون تصریح می‌کند: «افراد حق دارند تصویر خود را داشته باشند. استفاده از تصویر یک فرد باید با توافق آن شخص باشد. استفاده از تصویر برای اهداف تجاری باید به شخصی که تصویر او استفاده می‌شود، جبران شود، مگر اینکه طرفین توافق دیگری داشته باشند.»

بنابراین، اگر صاحب یک حساب کاربری در شبکه‌های اجتماعی بدون اجازه از تصاویر بازسازی‌شده توسط هوش مصنوعی از عکس‌های واقعی، ویدیوهای قدیمی و غیره برای تبلیغات یا اهداف فروش استفاده کند، قانون را نقض کرده است. اگر استفاده از یک تصویر، مفاد این ماده را نقض کند، صاحب تصویر حق دارد از دادگاه درخواست کند تا حکمی صادر کند که متخلف، نهادها، سازمان‌ها و افراد مربوطه را مجبور به حذف، از بین بردن و خاتمه استفاده از تصویر، جبران خسارات و اعمال سایر اقدامات مطابق با مفاد قانون کند.

کام نونگ

منبع: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html