أداة Deepfake AI الجديدة من ByteDance تثير المخاوف

[إعلان 1]

وفقًا لموقع TechSpot ، أعلنت شركة ByteDance - الشركة التكنولوجية الصينية التي تقف وراء تطبيق TikTok - للتو عن OmniHuman-1 - وهو نظام Deepfake قادر على إعادة إنشاء صور بشرية بواقعية لا تصدق. يمكن لمقاطع الفيديو التي تم إنشاؤها بواسطة OmniHuman-1 خداع المشاهد العادي، مما يؤدي إلى طمس الخط الفاصل بين الحقيقي والمزيف في المحتوى الرقمي.

Công cụ AI deepfake mới của ByteDance gây nhiều lo ngại- Ảnh 1. — تشتمل العديد من مقاطع الفيديو التي أنشأها OmniHuman-1 على ألبرت أينشتاين وجينسن هوانج والعديد من الآخرين، مما يوضح مدى واقعية التزييفات العميقة بشكل لا يصدق.

على عكس نماذج deepfake السابقة، يحتاج OmniHuman-1 فقط إلى صورة ومقطع صوتي لإنشاء مقطع فيديو كامل. يمكن للمستخدمين ضبط نسبة العرض إلى الارتفاع، أو تكوين الجسم، أو حتى تحرير الحركات في مقاطع الفيديو الموجودة. يمكن للذكاء الاصطناعي تغيير حركات اليد والإيماءات بدقة عالية، مما يجعل المنتج يبدو أكثر طبيعية. ومع ذلك، لا تزال بعض التفاصيل غير مثالية، مثل الوضع غير الطبيعي لحمل كأس النبيذ أو اليد الملتوية بشكل غريب في مقطع فيديو يحاكي محاضرة ألبرت أينشتاين.

تم تدريب النموذج على 18700 ساعة من الفيديو، باستخدام نهج "الظروف الشاملة" للتعلم من مجموعة متنوعة من مصادر البيانات، بما في ذلك النص والصوت وحركات الجسم.

على الرغم من التقدم التقني، فإن تقنية التزييف العميق تشكل أيضًا مخاطر جدية. في السنوات الأخيرة، تم إساءة استخدام تقنية التزييف العميق للتلاعب بالمعلومات، وارتكاب الاحتيال المالي، ومهاجمة السمعة الشخصية. خلال انتخابات عام 2024، تم استخدام العديد من مقاطع الفيديو المزيفة لتضليل الناخبين. في العام الماضي، أدت عمليات الاحتيال المالي التي استخدمت فيها تقنية التزييف العميق إلى سرقة مليارات الدولارات، بما في ذلك حالة انتحل فيها محتال شخصية الممثل براد بيت لخداع امرأة وتحويل 850 ألف دولار إليها.

وبسبب القلق إزاء هذه المخاطر، دعا العديد من خبراء أخلاقيات الذكاء الاصطناعي إلى وضع لوائح للسيطرة على المقاطع المزيفة العميقة. لقد أقرت عدة ولايات أمريكية قوانين ضد المحتوى التزييف العميق الضار، ولكن لا يوجد حتى الآن إطار قانوني فيدرالي شامل. اقترحت ولاية كاليفورنيا تشريعًا من شأنه أن يسمح للمحاكم بفرض إزالة المحتوى العميق ومعاقبة أولئك الذين ينشرونه، لكن العملية التشريعية واجهت العديد من العقبات.

في الوقت الحالي، لم تعلن شركة ByteDance عن خطط لإطلاق OmniHuman-1، ولكن تم نشر ورقة بحثية حول هذا النموذج، تُظهر إمكانات ومخاطر تقنية deepfake المتنامية.

[إعلان 2]
المصدر: https://thanhnien.vn/cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai-18525020521585617.htm