مراقب هوش مصنوعی باشید که تصاویر و صداهای جعلی برای کلاهبرداری آنلاین ایجاد می‌کند.

نگوین تان هونگ (نام شخصیت تغییر کرده است) یک کارمند اداری در هانوی است. در حین مکالمه با یکی از دوستانش از طریق مسنجر فیسبوک، دوست هونگ خداحافظی کرد و مکالمه را تمام کرد اما ناگهان به پیامک برگشت و درخواست قرض گرفتن پول کرد و پیشنهاد داد که پول را به حساب بانکی واریز کنند.

Cảnh giác AI tạo hình ảnh và giọng nói giả mạo để lừa tiền trên mạng- Ảnh 1. — هکرها از دیپ فیک برای کلاهبرداری آنلاین استفاده می‌کنند

اگرچه نام حساب با نام دوستش مطابقت داشت، هونگ هنوز کمی مشکوک بود، بنابراین برای تأیید درخواست تماس ویدیویی کرد. دوستش بلافاصله موافقت کرد، اما همانطور که دوستش توضیح داد، به دلیل «قطعی بودن شبکه»، تماس فقط چند ثانیه طول کشید. هونگ با دیدن چهره دوستش در تماس ویدیویی و همچنین صدایش که یکسان بود، دیگر شک نکرد و پول را منتقل کرد. با این حال، تنها پس از موفقیت‌آمیز بودن انتقال بود که هونگ متوجه شد در دام هکر افتاده است.

نه تنها هونگ، بلکه بسیاری از قربانیان دیگر که از دوستان و اقوام دوست هونگ بودند نیز به همین روش مورد کلاهبرداری قرار گرفتند. میزان پولی که افراد شرور از آن حساب فیسبوک کلاهبرداری کردند، بالغ بر ده‌ها میلیون دونگ است.

در نیمه دوم سال ۲۰۲۳، شرکت امنیتی Bkav به طور مداوم گزارش‌ها و درخواست‌های کمک از قربانیان در مورد کلاهبرداری‌های مشابه دریافت می‌کرد. به گفته کارشناسان Bkav، در مورد هونگ، افراد شرور کنترل حساب فیس‌بوک را به دست گرفتند اما بلافاصله آن را به طور کامل تصاحب نکردند، بلکه مخفیانه او را دنبال کردند و منتظر فرصتی بودند تا وانمود کنند قربانی هستند تا از دوستان و اقوام خود درخواست وام کنند. آنها از هوش مصنوعی برای ایجاد یک ویدیوی جعلی از چهره و صدای صاحب حساب فیس‌بوک (Deepfake) استفاده کردند. وقتی از آنها خواسته شد برای تأیید، تماس ویدیویی برقرار کنند، آنها موافقت کردند که تماس را بپذیرند اما سپس به سرعت ارتباط را قطع کردند تا از شناسایی شدن جلوگیری کنند.

آقای نگوین تین دات، مدیر کل مرکز تحقیقات ضد بدافزار Bkav، گفت: «توانایی جمع‌آوری و تجزیه و تحلیل داده‌های کاربر از طریق هوش مصنوعی، امکان ایجاد استراتژی‌های پیچیده کلاهبرداری را فراهم می‌کند. این همچنین به این معنی است که پیچیدگی سناریوهای کلاهبرداری هنگام ترکیب Deepfake و GPT افزایش می‌یابد و تشخیص کلاهبرداری را بسیار دشوارتر می‌کند.»

Bkav توصیه می‌کند که کاربران باید بسیار هوشیار باشند، اطلاعات شخصی (CCCD، حساب بانکی، کد OTP و ...) را ارائه ندهند، از طریق تلفن، شبکه‌های اجتماعی، وب‌سایت‌هایی که نشانه‌هایی از کلاهبرداری دارند، به غریبه‌ها پول منتقل نکنند. هنگامی که درخواستی برای قرض گرفتن/انتقال پول به حساب از طریق شبکه‌های اجتماعی وجود دارد، باید از روش‌های احراز هویت دیگر مانند تماس یا استفاده از سایر کانال‌های ارتباطی برای تأیید مجدد استفاده کنید.

لینک منبع