قال مسؤولون في كوريا الجنوبية يوم 27 أبريل إن اللجنة الوطنية للانتخابات في البلاد قدمت نموذج الذكاء الاصطناعي للكشف عن الأخبار المزيفة الذي طورته هيئة الطب الشرعي الوطنية لمنع انتشار مقاطع الفيديو المزيفة خلال الانتخابات الرئاسية المبكرة في 3 يونيو.
يُطلق على نموذج الذكاء الاصطناعي هذا اسم Aegis، وهو اسم الدرع الذي استخدمه زيوس في الأساطير اليونانية. ستستخدم شركة NEC تقنية Aegis للكشف عن مقاطع الفيديو المزيفة المعقدة التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي يصعب التعرف عليها بالعين المجردة. تم تطوير Aegis بشكل مشترك من قبل NFS ومعهد كوريا لتكنولوجيا الإلكترونيات (KETI).
يقوم NFS بإجراء الأبحاث منذ أبريل من العام الماضي في إطار مشروع نظمته KETI وبتمويل من معهد تخطيط وتقييم تكنولوجيا المعلومات والاتصالات. يُطلق على المشروع اسم "تقنية الكشف عن التزييف العميق ذاتية التطور لمنع الآثار الجانبية الاجتماعية الناجمة عن الذكاء الاصطناعي".
تم تطوير Aegis في السنة الثانية من المشروع بمشاركة جامعة الشرطة الوطنية الكورية، وKAIST، وCleon (شركة لإنشاء الوجوه والأصوات باستخدام الذكاء الاصطناعي)، وWysiwyg Studios (شركة إنتاج أفلام). تم تحسين Aegis للكشف عن أصعب مقاطع الفيديو المزيفة.
وبموجب قانون الانتخابات للخدمة المدنية المعدل في كوريا الجنوبية، والذي سيدخل حيز التنفيذ في يناير/كانون الثاني 2024، فإنه من غير القانوني إنتاج أو توزيع مقاطع فيديو مزيفة تم إنشاؤها بواسطة الذكاء الاصطناعي لأغراض الحملة الانتخابية. ومع ذلك، في الآونة الأخيرة، انتشرت على الإنترنت مقاطع فيديو مزيفة تستهدف المرشحين الرئاسيين البارزين، ومعظمها يحتوي على محتوى تشهيري أو قذفي. على سبيل المثال، مقاطع فيديو مزيفة لمرشح الحزب الديمقراطي لي جاي ميونج وهو يرتدي زي السجناء أو مرشح حزب قوة الشعب هان دونج هون وهو يخلع شعره المستعار.
في 9 أبريل، أطلقت شركة NEC فريق عمل حول مقاطع الفيديو المزيفة التي تستخدم الذكاء الاصطناعي، باستخدام عملية اكتشاف مكونة من ثلاث مراحل. وبناءً على ذلك، سيقوم المشرف في البداية بفحص الفيديوهات بصريًا. إذا كان من الصعب التمييز بين مقطع فيديو، فسيتم استخدام نموذج الذكاء الاصطناعي مثل Aegis لتحليله، وأخيرًا، سيتم إجراء تقييم من قبل خبراء الذكاء الاصطناعي.
وقال مسؤول في شركة NEC: "نحن نستخدم بشكل أساسي نظام Aegis من NFS بسبب دقته العالية في الكشف، ولكننا نقوم أيضًا بالتحقق منه باستخدام نماذج أخرى".
تم تصميم Aegis لاكتشاف الناتج الناتج عن طريقة الانتشار، وهي إحدى أحدث الطرق لتوليد الصور بالذكاء الاصطناعي. هناك طريقتان رئيسيتان لتوليد صور الذكاء الاصطناعي، بما في ذلك الشبكات التنافسية التوليدية (GANs) ونماذج الانتشار. تتضمن شبكات GAN شبكتين عصبيتين متنافستين لتوليد الصور بسرعة، ولكن الصور الناتجة غالبًا ما تكون مشوهة، مما يجعل اكتشافها أسهل.
على النقيض من ذلك، تستخدم مولدات الصور الحديثة مثل Midjourney وDALL-E من OpenAI نهج الانتشار (إضافة ضوضاء اصطناعية إلى الصورة ثم إزالة الضوضاء لإنتاج صورة عالية الدقة وعالية الجودة). لذلك، فإن الصورة التي تم إنشاؤها بواسطة طريقة الانتشار يصعب تمييزها عن الصورة الحقيقية، وذلك باستخدام تقنيات الكشف التقليدية فقط.
تم تحسين Aegis للكشف عن مقاطع الفيديو المزيفة التي تم إنشاؤها باستخدام طرق الانتشار.
وقال مسؤول في NFS: "نحن نجهز Aegis ليس فقط للكشف عن التزييف العميق والتزييف العميق، ولكن أيضًا لتحليل ما إذا كان المحتوى الذي تم إنشاؤه لأغراض ضارة".
المصدر: https://www.vietnamplus.vn/han-quoc-su-dung-tri-tue-nhan-tao-phat-hien-video-gia-mao-ve-bau-cu-post1035586.vnp
تعليق (0)