یوتیوب ابزار «تشخیص شباهت» را برای محافظت از تصاویر و صداها در برابر دیپ‌فیک راه‌اندازی کرد

یوتیوب شروع به استفاده از ابزارهای تشخیص چهره و صدا برای جلوگیری از دیپ فیک کرده است و به سازندگان ویدیو این امکان را می‌دهد که بر نحوه استفاده بدون اجازه از تصاویرشان کنترل داشته باشند.

یوتیوب در حال راه‌اندازی است و دسترسی به ابزار تشخیص شباهت خود را برای سازندگان گسترش خواهد داد.

تکثیر ویدیوهای دیپ‌فیک، مرز بین واقعیت و جعل را محو می‌کند. از افراد مشهور گرفته تا تولیدکنندگان محتوا، هر کسی می‌تواند قربانی این فناوری شود.

در مواجهه با این واقعیت، یوتیوب و بسیاری دیگر از پلتفرم‌های آنلاین به دنبال ایجاد تعادل بین آزادی خلاقانه و کنترل بر هویت دیجیتال هستند.

یوتیوب در حال آزمایش ابزاری برای تشخیص جعل هویت مبتنی بر هوش مصنوعی است.

یوتیوب ویژگی جدیدی به نام «تشخیص شباهت» را معرفی کرده است که می‌توان آن را به عنوان شناسایی شباهت‌ها در ویژگی‌های چهره و صدا ترجمه کرد. وقتی سازندگان ویدیوهایی را کشف می‌کنند که نشانه‌هایی از جعل تصویر یا صدای آنها را نشان می‌دهد، می‌توانند مستقیماً از طریق این ابزار درخواست تأیید ارسال کنند.

این سیستم از یک مدل هوش مصنوعی برای مقایسه داده‌های چهره و صدا با مشخصات اصلی درخواست‌کننده استفاده خواهد کرد. اگر نتایج تطابق بالایی را نشان دهد، ویدیو برای ارزیابی بیشتر به تیم نظارت یوتیوب ارسال می‌شود.

این امر به کاهش حذف تصادفی محتوای قانونی کمک می‌کند و دقت تشخیص دیپ‌فیک را افزایش می‌دهد.

برخلاف ابزارهای قبلی برای گزارش نقض حق چاپ یا محتوای ناقض، ویژگی تشخیص جدید بر هویت شخصی تمرکز دارد. افرادی که هویتشان جعل شده است نیازی به اثبات مالکیت تصاویر یا محتوا ندارند؛ آنها فقط باید استفاده غیرمجاز از چهره یا صدای خود را تأیید کنند.

طبق گفته یوتیوب، هدف این ابزار، بازگرداندن کنترل به سازندگان است، در شرایطی که تعداد فزاینده‌ای از ویدیوها با استفاده از فناوری ترکیب تصویر و صدا، تشخیص بین واقعی و جعلی را برای بینندگان دشوار می‌کند. انتظار می‌رود این ابزار به تدریج در ایالات متحده و سپس در سال آینده به مناطق دیگر گسترش یابد.

گامی که برای مقابله با موج دیپ فیک برداشته شده است.

دیپ‌فیک دیگر محدود به ویدیوهای سرگرمی یا محتوای طنز نیست. تنها در عرض چند سال، از این فناوری برای کلاهبرداری، سیاست و دستکاری اطلاعات سوءاستفاده شده است. موارد متعددی از تغییر چهره یا صدای افراد مشهور در تبلیغات یا محتوای حساس، نگرانی‌هایی را در بین کاربران در مورد اعتبار آنچه که به صورت آنلاین می‌بینند، ایجاد کرده است.

در پاسخ به این موج، پلتفرم‌های رسانه‌های اجتماعی به طور جمعی به دنبال راه‌هایی برای واکنش هستند. متا اعلام کرده است که قصد دارد ویدیوهای ایجاد شده توسط هوش مصنوعی را به عنوان "تولید شده توسط هوش مصنوعی" برچسب گذاری کند، در حالی که تیک تاک گزینه "تولید شده توسط هوش مصنوعی" را به بخش گزارش تخلف خود اضافه کرده است و گزارش ویدیوهای جعلی را برای کاربران آسان‌تر می‌کند. برای یوتیوب، این یک گام پیشگیرانه در مقابله با موج گسترده و دشوار کنترل دیپ فیک است.

راه‌اندازی این ویژگی همچنین تلاش یوتیوب برای تعریف مجدد استانداردهای تعدیل محتوا در عصر هوش مصنوعی را نشان می‌دهد. این پلتفرم نه تنها با ویدیوهای متخلف برخورد می‌کند، بلکه مکانیسم‌هایی را ایجاد می‌کند تا به سازندگان محتوا در محافظت از هویت دیجیتالی‌شان حق اظهار نظر بدهد.

برخی از کارشناسان رسانه این را نشانه‌ای می‌دانند که شرکت‌های فناوری شروع به تغییر از «سازگاری با هوش مصنوعی» به «کنترل تأثیر هوش مصنوعی» کرده‌اند.

با این حال، به‌کارگیری ابزارهای تشخیص دیپ‌فیک در مقیاس جهانی ساده نیست. تفاوت در قوانین حفاظت از داده‌ها بین کشورها و پیچیدگی شناسایی محتوای جعلی مضر، چالش‌هایی خواهد بود که یوتیوب در طول پیاده‌سازی با آن مواجه خواهد شد.

مرز بین خلاقیت و سانسور

مبارزه با دیپ‌فیک، سوالاتی را در مورد محدودیت‌های تولید محتوا مطرح می‌کند. بسیاری از تولیدکنندگان ویدیو نگرانند که ابزارهای تشخیص خودکار می‌توانند بر محصولات مشروع مبتنی بر هوش مصنوعی، مانند فیلم‌های کوتاه یا ویدیوهای مصور، تأثیر بگذارند. با کمرنگ شدن مرز بین خلاقیت و جعل، پلتفرم‌ها باید راه‌هایی برای محافظت از کاربران بدون آسیب رساندن به آزادی خلاقیت پیدا کنند.

یوتیوب ادعا می‌کند که ابزار شناسایی آن برای محدود کردن خلاقیت نیست، بلکه برای محافظت از حق افراد در کنترل تصاویر خودشان است. با این حال، کارشناسان معتقدند که تعیین اینکه کدام ویدیوها مضر و کدام‌ها ساخته‌های مشروع هستند، همچنان یک چالش بزرگ خواهد بود.

احتمالاً رقابت بین فناوری ساخت ویدیوهای جعلی و فناوری تشخیص آنها ادامه خواهد یافت و ابزار جدید یوتیوب تنها گامی کوچک در تلاش برای حفظ اصالت در عصری است که به طور فزاینده‌ای مجازی می‌شود.

تان پنجشنبه

منبع: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm