آنچه می‌بینید و می‌شنوید، لزوماً در عصر هوش مصنوعی درست نیست.

کارشناسان امنیت سایبری هشدار می‌دهند که هوش مصنوعی و فناوری دیپ‌فیک، کلاهبرداری‌ها را پیچیده‌تر می‌کنند، زیرا می‌توانند به راحتی صداها و چهره‌ها را برای فریب کاربران تقلید کنند.

نگو مین هیو، متخصص امنیت سایبری (Hieu PC)، در مجمع اعتماد دیجیتال در امور مالی ۲۰۲۶ با موضوع «ایجاد اعتماد دیجیتال در امور مالی در عصر هوش مصنوعی» در ۱۲ مه گفت: «آنچه با چشمان خود می‌بینید لزوماً درست نیست، و آنچه از یک صدا می‌شنوید نیز لزوماً درست نیست. هرچه اوضاع اضطراری‌تر باشد، بیشتر باید آن را تأیید و بررسی کنیم. »

نگو مین هیو، متخصص امنیت سایبری (از حزب کمونیست هیو)، در این انجمن سخنرانی می‌کند.

به گفته‌ی متخصص نگو مین هیو، توسعه‌ی سریع هوش مصنوعی و دیپ‌فیک، کلاهبرداری‌های آنلاین را پیچیده‌تر می‌کند، زیرا مجرمان سایبری می‌توانند چهره‌ها، صداها، عبارات و حتی پس‌زمینه‌ها را برای دستکاری قربانیان جعل کنند.

او گفت : «پیش از این، ما فکر می‌کردیم آنچه می‌بینیم و می‌شنویم واقعی است، بنابراین فوراً آن را باور می‌کردیم. اما اکنون هوش مصنوعی می‌تواند همه چیز را از چهره و صدا گرفته تا حالات چهره جعل کند.» او افزود که بزرگترین آسیب دیپ‌فیک فقط پول نیست، بلکه از دست دادن اعتماد کاربران نیز هست.

او افزود : «وقتی مجرمان از عوامل و باورهای روانشناختی سوءاستفاده می‌کنند، می‌توانند قربانیان را به سمت پلتفرم‌های سرمایه‌گذاری جعلی بکشانند یا دارایی‌های آنها را تصاحب کنند.»

دسترسی به دیپ فیک آسان است، اما تشخیص آن دشوار است.

به گفته نگو مین هیو، متخصص امنیت سایبری، فناوری دیپ‌فیک اکنون بسیار در دسترس است. بسیاری از ابزارهای متن‌باز یا سرویس‌های ارزان‌قیمت به مجرمان سایبری اجازه می‌دهند تا فقط از یک عکس پرتره، ویدیوهای جعلی بسازند.

او گفت: «فقط با یک عکس، می‌توانید چهره‌ها را عوض کنید، صداهای جعلی بسازید و از طریق FaceTime، Zalo یا WhatsApp تماس برقرار کنید.»

در این انجمن، آقای هیو یک نرم‌افزار دیپ‌فیک را به نمایش گذاشت که قادر به تغییر چهره در زمان واقعی در طول تماس‌های ویدیویی است. این فناوری توسط بسیاری از افراد برای جعل هویت مقامات دولتی، اقوام یا "شاهزادگان جذاب" مورد سوءاستفاده قرار می‌گیرد تا از مردم برای عشق و پول کلاهبرداری کنند.

او همچنین به کاربران هشدار داد که داده‌های شخصی زیادی را در رسانه‌های اجتماعی منتشر می‌کنند: «ما هر روز تصاویر، ویدیوها و صداهای ضبط‌شده را در رسانه‌های اجتماعی منتشر می‌کنیم. بسیاری از مردم حتی خودشان پست نمی‌گذارند، بلکه دوستانشان برای آنها پست می‌گذارند. این داده‌ها را می‌توان از منابع مختلف برای ایجاد دیپ‌فیک جمع‌آوری کرد.»

این متخصص همچنین خاطرنشان کرد که والدین باید هنگام انتشار تصاویر فرزندانشان در رسانه‌های اجتماعی محتاط باشند، زیرا مجرمان سایبری می‌توانند از این داده‌ها برای باج‌گیری یا «آدم‌ربایی آنلاین» سوءاستفاده کنند.

به گفته آقای نگو مین هیو، خطرناک‌ترین جنبه فناوری دیپ‌فیک، توانایی آن در غلبه بر «حس اعتماد» افراد است.

او گفت: «تماس‌های ویدیویی همیشه اعتماد بیشتری نسبت به پیام‌های متنی ایجاد می‌کنند. صداهای آشنا اعتماد بیشتری نسبت به متن نوشتاری ایجاد می‌کنند. مجرمان سایبری اغلب موقعیت‌های اضطراری مانند درخواست انتقال پول، کدهای OTP یا نصب برنامه‌ها را برای دستکاری روانی قربانیان ایجاد می‌کنند.»

کارشناس نگو مین هیو: خطرناک‌ترین جنبه این است که دیپ‌فیک می‌تواند بر حس اعتماد مردم غلبه کند.

اگرچه تشخیص دیپ فیک اکنون بسیار دشوارتر شده است، اما هنوز نشانه‌های غیرمعمولی مانند شکل‌های نامتناسب دهان، نورپردازی غیرطبیعی، گفتار یکنواخت یا دندان‌های بدشکل وجود دارد.

متخصص هیو گفت: «رنگ پوست در ویدیوهای دیپ‌فیک اغلب بسیار صاف و غیرطبیعی است.» با این حال، او معتقد است که کاربران نباید فقط روی تشخیص واقعی یا جعلی بودن ویدیو تمرکز کنند، بلکه باید این سوال را نیز مطرح کنند که آیا درخواست در تماس تلفنی منطقی است یا خیر.

نشت داده‌ها ناشی از ابزارهای هوش مصنوعی رایگان.

در این انجمن، متخصص نگو مین هیو هشدار داد که اگر کاربران مهارت لازم برای محافظت از اطلاعات شخصی خود را نداشته باشند، چت‌بات‌های هوش مصنوعی به تدریج به هدف جدیدی برای هکرها تبدیل می‌شوند.

او استدلال کرد که هوش مصنوعی اکنون به شدت از کار، یادگیری و تحقیق پشتیبانی می‌کند. با این حال، بسیاری از مردم عادت دارند حجم زیادی از داده‌های شخصی مانند عکس‌های خصوصی، اطلاعات خانوادگی، اسناد کاری یا داده‌های تجاری را بدون پیش‌بینی خطر سوءاستفاده، در چت‌بات‌ها بارگذاری کنند.

علاوه بر این، اکثر کاربران تقریباً هرگز شرایط استفاده از پلتفرم‌های هوش مصنوعی را نخوانده‌اند، در حالی که بسیاری از ابزارهای رایگان می‌توانند داده‌ها را برای آموزش مدل‌ها یا برای اهداف دیگر جمع‌آوری کنند.

با ظهور بسیاری از برنامه‌های رایگان هوش مصنوعی با منشأ ناشناخته، خطرات در حال افزایش است که به کاربران امکان ایجاد تصاویر، ویرایش چهره‌ها یا تبدیل عکس‌های واقعی به شخصیت‌های کارتونی را می‌دهد. به گفته آقای هیو، این نوعی دستکاری است که کاربران را تشویق می‌کند تا داوطلبانه داده‌های بیومتریک خود را به اشخاص ثالث ارائه دهند.

کاربران هنگام استفاده از چت‌بات‌های هوش مصنوعی که فاقد امنیت هستند، با خطر افشای اطلاعات شخصی مواجه می‌شوند. (تصویر تزئینی)

برای استفاده ایمن‌تر از هوش مصنوعی، کارشناسان توصیه می‌کنند که کاربران از آپلود اطلاعات حساس، اسناد شخصی یا داده‌های تجاری داخلی در چت‌بات‌های هوش مصنوعی، به ویژه پلتفرم‌هایی که گردانندگان آنها ناشناخته هستند، خودداری کنند.

کاربران باید ویژگی‌های امنیتی مانند حالت چت موقت، حذف خودکار تاریخچه مکالمات و غیرفعال کردن گزینه‌هایی که به سیستم اجازه می‌دهد از داده‌ها برای آموزش هوش مصنوعی استفاده کند را فعال کنند. همچنین باید احراز هویت دو مرحله‌ای را فعال کرد تا خطر به خطر افتادن حساب کاربری محدود شود.

به گفته متخصص نگو مین هیو، اگر هکرها کنترل یک حساب کاربری چت‌بات هوش مصنوعی شخصی را به دست آورند، می‌توانند از تمام اطلاعاتی که کاربر قبلاً به اشتراک گذاشته است، سوءاستفاده کنند.

آقای هیو هشدار داد: «فقط با یک دستور مانند «هر چه در مورد من می‌دانی به من بگو»، هوش مصنوعی می‌تواند بسیاری از داده‌های شخصی کاربران را به‌طور کامل جمع‌آوری کند.»

مجمع اعتماد دیجیتال در امور مالی ۲۰۲۶ توسط اتحاد اعتماد دیجیتال با همکاری انجمن ملی امنیت سایبری و MoMo، تحت حمایت وزارت امنیت عمومی ، بانک دولتی ویتنام و وزارت دارایی برگزار می‌شود.

این رویداد، متخصصان و کسب‌وکارهای حوزه‌های مالی، بانکی و فناوری را گرد هم آورد تا در مورد راهکارهایی برای محافظت از کاربران و ایجاد اعتماد دیجیتال در بستر توسعه سریع هوش مصنوعی بحث کنند.

باران گل

منبع: https://vtcnews.vn/mat-thay-tai-nghe-chua-chac-la-that-strong-thoi-ai-ar1017765.html