دیپ‌فیک‌ها در حال گسترش هستند و رقابت هوش مصنوعی برای مبارزه با آتش با آتش، داغ‌تر شده است.

دیپ‌فیک‌ها به طور فزاینده‌ای پیچیده می‌شوند و استارت‌آپ‌های امنیتی را مجبور می‌کنند از هوش مصنوعی برای شناسایی و جلوگیری از آنها استفاده کنند و این باعث ایجاد یک رقابت شدید فناوری شده است.

مبارزه با دیپ‌فیک، چرا که هوش مصنوعی هم به «سلاح» و هم به «سپر» تبدیل می‌شود

در عصر هوش مصنوعی، رویارویی بین مجرمان سایبری و شرکت‌های امنیتی دیگر صرفاً یک مسابقه فناوری نیست، بلکه تلاشی برای بازیابی اعتماد از دست رفته توسط محتوای جعلیِ پیچیده و فزاینده است.

وقتی آنچه می‌بینی و می‌شنوی دیگر قابل اعتماد نیست.

همین چند سال پیش، کاربران می‌توانستند دیپ‌فیک‌ها را از طریق نشانه‌های نسبتاً «خام» مانند حالت‌های غیرطبیعی صورت، حرکات نامتناسب دهان یا حرکات غیرمعمول چشم تشخیص دهند. با این حال، این روش‌ها با توسعه فناوری هوش مصنوعی به سرعت منسوخ شدند.

در حال حاضر، هوش مصنوعی می‌تواند تصاویر و صداها را با دقت بسیار بالا بازسازی کند، حتی ارتعاشات ظریف در صدای انسان را شبیه‌سازی کند. در آزمایشی که توسط روزنامه‌نگار گبی دل واله انجام شد، سیستم هوش مصنوعی تنها با استفاده از ۹ ثانیه صدای جمع‌آوری‌شده از رسانه‌های اجتماعی، یک نسخه جعلی ایجاد کرد که می‌توانست مکالمه را تقریباً به طور قانع‌کننده‌ای ادامه دهد.

در زندگی روزمره، شهود هنوز هم می‌تواند به افراد در تشخیص ناهنجاری‌ها کمک کند. با این حال، در محل کار یا معاملات مالی - که اطلاعات به سرعت پردازش می‌شوند و زمان از اهمیت بالایی برخوردار است - این علائم مشکوک به راحتی نادیده گرفته می‌شوند و خطر کلاهبرداری را افزایش می‌دهند.

دیپ‌فیک دیگر محدود به محتوای سرگرمی آنلاین نیست؛ مجرمان سایبری اکنون از آنها برای کلاهبرداری‌های سازمان‌یافته سوءاستفاده می‌کنند. آنها می‌توانند داده‌های عمومی موجود در رسانه‌های اجتماعی را جمع‌آوری کنند تا یک «بانک صوتی» از کارمندان یک شرکت بسازند، سپس از هوش مصنوعی برای جعل هویت رهبران یا همکاران استفاده کنند تا تماس‌هایی برای درخواست انتقال پول برقرار کنند.

خسارت ناشی از این حوادث قابل توجه است. هر کلاهبرداری دیپ‌فیک می‌تواند صدها هزار دلار برای کسب‌وکارها هزینه داشته باشد. نگران‌کننده این است که این سناریوها اغلب از حس فوریت قربانی سوءاستفاده می‌کنند - مانند جعل هویت یک عزیز برای درخواست کمک - و باعث می‌شوند که آنها در مدت زمان بسیار کوتاهی احتیاط خود را کنار بگذارند.

«مقابله با آتش با آتش» با استفاده از هوش مصنوعی

برای مقابله با این، بسیاری از استارت‌آپ‌های امنیتی رویکرد معکوسی را انتخاب می‌کنند: استفاده از خود هوش مصنوعی برای تشخیص دیپ‌فیک.

یکی از رویکردهای رایج، مدل «استاد-شاگرد» در یادگیری ماشین است. این سیستم با استفاده از مقادیر زیادی داده واقعی و جعلی آموزش می‌بیند تا یاد بگیرد چگونه ردپاهای فنی را که انسان‌ها با چشم غیرمسلح نمی‌توانند ببینند، شناسایی کند.

این رویکرد یک حلقه‌ی پیوسته ایجاد می‌کند: با پیچیده‌تر شدن دیپ‌فیک، سیستم‌های تشخیص باید دائماً ارتقا یابند تا با آن همگام شوند. بنابراین، به نظر می‌رسد این مسابقه پایانی ندارد.

با این حال، چالش در این واقعیت نهفته است که به لطف استفاده گسترده از مدل‌های هوش مصنوعی، هزینه تولید محتوای جعلی به طور فزاینده‌ای ارزان‌تر می‌شود، در حالی که تشخیص و دفاع به منابع بسیار بیشتری نیاز دارد.

یک رویکرد جدید، ایجاد استانداردهایی برای تأیید منشأ محتوا است که به کاربران کمک می‌کند بدانند داده‌ها از کجا می‌آیند و آیا ویرایش شده‌اند یا خیر. با این حال، اگر سیستم تأیید دقیقی وجود نداشته باشد، این راه‌حل همچنان با خطر جعل مواجه است.

پیش‌بینی می‌شود در درازمدت، ابزارهای تشخیص دیپ‌فیک به لایه‌ی پیش‌فرض محافظت تبدیل شوند و مستقیماً در مرورگرها، پلتفرم‌های دیجیتال یا زیرساخت‌های اینترنتی ادغام شوند - مشابه نقشی که امروزه نرم‌افزارهای آنتی‌ویروس ایفا می‌کنند.

بازگشت به موضوع

دریای شرقی

منبع: https://tuoitre.vn/deepfake-lan-rong-cuoc-dua-ai-lay-doc-tri-doc-nong-len-2026042808084971.htm