استفاده از هوش مصنوعی برای جعل هویت افراد دارای معلولیت برای کسب سود: مراقب این کلاهبرداری جدید باشید.

اخیراً، کلاهبرداری‌های جدید و بی‌سابقه‌ای در پلتفرم‌های رسانه‌های اجتماعی مانند فیس‌بوک و تیک‌تاک پدیدار شده‌اند.

اینها افراد بدخواهی هستند که از فناوری هوش مصنوعی (AI) برای ویرایش چهره و بدن افراد عادی، تبدیل آنها به افراد دارای معلولیت و سپس جعل داستان‌های دلخراش برای فروش محصولات یا جمع‌آوری کمک‌های مالی استفاده کرده‌اند. تنها هدف آنها سوءاستفاده از دلسوزی جامعه برای کسب درآمد غیرقانونی است.

تصاویری از زنی که با استفاده از فناوری هوش مصنوعی به صورت دیجیتالی تغییر شکل داده شده تا شبیه یک فرد معلول شود، در کانال تیک تاک به نام NL منتشر شد.

ترفند پیچیده

یک نمونه بارز که خشم عمومی را برانگیخت، یک کانال تیک تاک به نام NL بود که مجموعه‌ای از ویدیوها را از زنی با هر دو دست قطع شده منتشر کرد که سعی داشت برای حمایت از فرزندان خردسالش، کالاهایی را به صورت آنلاین بفروشد. در این کلیپ‌ها، زن در یک اتاق ساده، با لباس‌های ساده، ظاهر می‌شود و از دست‌های قطع شده خود برای تبلیغ محصولات استفاده می‌کند و احساس همدردی و دلسوزی بینندگان را برمی‌انگیزد. بسیاری از مردم به راحتی این ویدیوها را دنبال کردند، به اشتراک گذاشتند و حتی سفارش کالا دادند تا به مادر کمک کنند بر سختی‌هایش غلبه کند. با این حال، با پخش شدن ویدیوها، کاربران اینترنتی متوجه شدند که اینها در واقع تصاویر یک زن فروشنده معمولی هستند که با استفاده از هوش مصنوعی به صورت دیجیتالی تغییر داده شده تا شبیه یک فرد واقعاً معلول شود.

تاکتیک سوءاستفاده از حس همدردی مردم به یک دام تبدیل شده است و بسیاری را به این فکر می‌اندازد که به یک فرد محروم یا آسیب‌پذیر کمک می‌کنند و پول منتقل می‌کنند یا سفارش می‌دهند. دانگ مین کوانگ، ساکن خیابان نگوک لام، بو دِ وارد ( هانوی )، این را به اشتراک گذاشت: «مادرم، با باور به ویدیوی زنی که با یک دست گمشده در حال فروش کالا بود، احساس همدردی کرد و چند محصول از او سفارش داد. وقتی حقیقت را فهمید - اینکه فرد معلول فقط یک تصویر تولید شده توسط هوش مصنوعی است - بسیار غمگین شد و احساس کرد که به او توهین شده است.»

داستان مادر کوانگ منحصر به فرد نیست. صدها نفر دیگر نیز به همین ترتیب فریب خورده‌اند. وقتی از مهربانی سوءاستفاده می‌شود، مردم به تدریج ایمان خود را از دست می‌دهند و نسبت به درخواست‌های واقعی برای کمک محتاط می‌شوند. پیامد دلخراش این است که افراد واقعاً آسیب‌پذیر رنج زیادی می‌کشند. نگوین سین در حساب شخصی فیسبوک خود، مورد تران تی نگا (۳۶ ساله، اهل استان فو تو ) - صاحب کانال "نگا مثبت" - یک فرد معلول (در پایان سال ۲۰۲۴، به دلیل میوکاردیت حاد، مجبور شد هر دو دست و پایش را برای نجات جانش قطع کند) را به اشتراک گذاشت، فردی که به خاطر الهام بخشیدن مکرر به دیگران با دیدگاه خوش‌بینانه‌اش به زندگی شناخته می‌شود. با این حال، پس از آشکار شدن موارد متعدد جعل هویت افراد معلول با استفاده از هوش مصنوعی، نگا مظنون به استفاده از هوش مصنوعی برای جعل هویت یک فرد معلول شد.

خانم نگا در طول پخش زنده اخیر، بارها از درخواست‌های کاربران رسانه‌های اجتماعی مبنی بر «بالا بردن دست‌ها»، «خزیدن» و غیره برای اثبات معلولیت واقعی خود، ناراحت شد. این خواسته‌های غیرمنطقی و ظالمانه، او را عمیقاً آزرده خاطر کرد. داستان خانم نگا گواهی دلخراش بر این است که سوءاستفاده از فناوری تا چه حد می‌تواند آسیب‌زا باشد.

مهارت در شناسایی محتوای جعلی ایجاد شده توسط هوش مصنوعی

طبق اعلام وزارت امنیت عمومی، در سال ۲۰۲۴، ویتنام بیش از ۶۰۰۰ پرونده کلاهبرداری آنلاین را ثبت کرد که خسارت تخمینی آن تقریباً ۱۲ تریلیون دونگ ویتنامی تخمین زده می‌شود. تنها در هشت ماه سال ۲۰۲۵، نزدیک به ۱۵۰۰ پرونده کلاهبرداری آنلاین شناسایی شد. این ارقام به وضوح ماهیت خطرناک جرایم پیشرفته را در شرایطی که ویتنام بیش از ۷۸ میلیون کاربر اینترنت و ۷۲ میلیون کاربر رسانه‌های اجتماعی دارد، نشان می‌دهد. فضای مجازی در حال تبدیل شدن به بستری حاصلخیز برای طرح‌های کلاهبرداری پیچیده‌تر است و استفاده از هوش مصنوعی برای ایجاد محتوای جعلی، بزرگترین تهدید امروز است.

با توجه به این وضعیت نگران‌کننده، مقامات و کارشناسان امنیت سایبری به مردم توصیه می‌کنند که خود را به دانش و مهارت‌های لازم برای شناسایی محتوای جعلی مجهز کنند. نگوین نات ها، معاون دبیر اتحادیه جوانان پلیس بخش لانگ بین (هانوی)، خاطرنشان کرد که مردم باید مرتباً منابع اطلاعات رسمی را رصد کنند، دانش خود را در مورد فناوری و اشکال جدید کلاهبرداری به روز کنند. به طور خاص، آنها باید همیشه هوشیار باشند و اصول اساسی را به خاطر بسپارند: منبع اطلاعات را با دقت تأیید کنید، اطلاعات شخصی خود را به منابع تأیید نشده ارائه ندهید، به لینک‌های عجیب دسترسی پیدا نکنید و به حساب‌های تأیید نشده پول منتقل نکنید.

برای شناسایی ویدیوهای تولید شده توسط هوش مصنوعی، کارشناسان امنیت سایبری به کاربران توصیه می‌کنند جزئیات تصویر، حرکات صورت و دست و صدا را با دقت مشاهده کنند. نشانه‌هایی مانند چشمان بی‌جان، حرکات غیرطبیعی، تأخیر در گفتار یا حرکات لب ناهماهنگ اغلب نشانگر فناوری دیپ‌فیک هستند.

علاوه بر این، بررسی اطلاعات آپلودکننده، خواندن نظرات و بررسی سابقه فعالیت، روش‌های ساده‌ای برای ارزیابی قابلیت اطمینان هستند. علاوه بر این، کاربران باید عادت کنند که قبل از باور کردن اطلاعات، آن را تأیید کنند. حتی تأثیرگذارترین ویدیوها نیز نباید با عجله به اشتراک گذاشته یا پشتیبانی شوند.

کارشناسان همچنین از پلتفرم‌های رسانه‌های اجتماعی می‌خواهند که سانسور را تقویت کرده و محتوایی را که با استفاده از هوش مصنوعی برای جعل هویت افراد دارای معلولیت منتشر می‌شود، شناسایی کنند و حساب‌های متخلف را به شدت مجازات کنند. مقامات همچنین باید فوراً مقررات روشنی در مورد استفاده از تصاویر و محتوای تولید شده توسط هوش مصنوعی وضع کنند و اطمینان حاصل کنند که این فناوری به ابزاری برای رفتار غیراخلاقی افراد بدخواه تبدیل نمی‌شود.

منبع: https://hanoimoi.vn/dung-ai-gia-nguoi-khuyet-tat-de-truc-loi-canh-giac-chieu-lua-moi-722565.html