الأفلام الإباحية المزيفة، مشكلة في سباق الذكاء الاصطناعي

[إعلان 1]

التزييف العميق (Deepfakes) هو مقاطع فيديو وصور مُعدّلة رقميًا باستخدام الذكاء الاصطناعي أو التعلم الآلي. بدأت المواد الإباحية المُنتجة باستخدام هذه التقنية بالانتشار على الإنترنت قبل بضع سنوات عندما شارك أحد مستخدمي Reddit مقاطع إباحية مزيفة مع وجوه مشاهير.

لا يزال الديب فيك صعبًا في الصورة المنافسة 1 — الصورة: جي آي

يمكن لأي شخص أن يكون ضحية.

منذ ذلك الحين، واصل مُنشئو التزييف العميق نشر مقاطع فيديو وصور مماثلة تستهدف المؤثرين على الإنترنت والصحفيين وغيرهم من أصحاب الحسابات العامة. وتوجد آلاف من هذه المقاطع على مواقع إلكترونية عديدة.

مع تزايد إمكانية الوصول إلى تقنيات الذكاء الاصطناعي، فإن هذا يسمح للمستخدمين بتحويل أي شخص يريدونه إلى "نجوم أفلام إباحية" دون موافقتهم، أو ما هو أخطر من ذلك، استخدام التكنولوجيا لتشويه سمعة الآخرين أو ابتزازهم.

ويقول الخبراء إن المشكلة قد تزداد سوءًا مع تطوير أدوات الذكاء الاصطناعي التوليدية التي يتم تدريبها على مليارات الصور من الإنترنت وتوليد محتوى جديد باستخدام البيانات الموجودة.

قال آدم دودج، مؤسس EndTAB، وهي مجموعة تُقدم تدريبًا حول إساءة استخدام التكنولوجيا: "الحقيقة هي أن التكنولوجيا ستستمر في الانتشار، وستستمر في التطور، وستصبح متاحةً أكثر وأكثر سهولةً في الوصول إليها. وطالما استمر ذلك، سيستمر الناس بلا شك في إساءة استخدام هذه التكنولوجيا لإيذاء الآخرين، لا سيما من خلال العنف الجنسي عبر الإنترنت، والمواد الإباحية المُزيفة، والصور العارية المزيفة".

نويل مارتن، من بيرث، أستراليا، عاشت هذه التجربة. اكتشفت الشابة، البالغة من العمر 28 عامًا، صورًا إباحية مزيفة لها قبل عشر سنوات عندما بحثت عن صورتها على جوجل بدافع الفضول. وحتى اليوم، تقول مارتن إنها لا تعرف من أنشأ هذه الصور أو الفيديوهات الإباحية المزيفة. وتشتبه في أن أحدهم استخدم صورها على مواقع التواصل الاجتماعي لإنشاء فيديوهات إباحية.

حاولت مارتن التواصل مع المواقع الإلكترونية لحذف الفيديوهات، لكن جهودها باءت بالفشل. بعضها لم يستجب، بينما حذفها آخرون ثم أعادوا نشرها بسرعة. قالت السيدة مارتن: "لن تنتصروا. ستبقى على الإنترنت للأبد، وقد تدمر حياتكم".

جهود شركات التكنولوجيا لإصلاح المشكلة

وتقول بعض نماذج الذكاء الاصطناعي إنها قامت بتقييد الوصول إلى الصور الإباحية.

صرحت شركة OpenAI بأنها أزالت المحتوى الإباحي من البيانات المستخدمة لتدريب مُولّد الصور DALL-E، مما يُفترض أن يحدّ من احتمالية إساءة استخدامه. كما تُرشّح الشركة الطلبات، وتؤكد أنها تمنع المستخدمين من إنشاء صور ذكاء اصطناعي للمشاهير والسياسيين البارزين. ويحظر نموذج آخر، Midjourney، استخدام كلمات مفتاحية مُعيّنة، ويشجع المستخدمين على الإبلاغ عن الصور المُثيرة للمشاكل للمشرفين.

في غضون ذلك، أطلقت شركة Stability AI تحديثًا يمنع المستخدمين من إنشاء صور عارية. تأتي هذه التغييرات بعد ورود تقارير تفيد بأن بعض المستخدمين يستخدمون هذه التقنية لإنشاء صور عارية مستوحاة من المشاهير.

قال المتحدث باسم شركة "ستابيليتي إيه آي"، موتيز بشارة، إن الفلتر يستخدم مزيجًا من الكلمات المفتاحية وتقنيات أخرى، مثل التعرف على الصور، للكشف عن العُري. ولكن يُمكن للمستخدمين تعديل البرنامج وإنشاء ما يريدون، حيث أصدرت الشركة الكود مفتوح المصدر للتطبيق.

كما شددت بعض شركات التواصل الاجتماعي القواعد لحماية منصاتها بشكل أفضل من المواد الضارة.

في الشهر الماضي، قالت شركة تيك توك إن كل المحتوى المزيف أو المتلاعب به يجب أن يتم تصنيفه للإشارة إلى أنه مزيف أو معدل بطريقة ما.

كما قامت منصة الألعاب Twitch مؤخرًا بتحديث سياساتها بشأن الصور المزيفة بعد أن تم القبض على أحد المذيعين المشهورين المسمى Atrioc وهو يفتح موقعًا إباحيًا مزيفًا على متصفحه أثناء البث المباشر في أواخر يناير.

قالت شركتا أبل وجوجل إنهما أزالتا مؤخرًا تطبيقًا من متاجر التطبيقات الخاصة بهما لتشغيل مقاطع فيديو مزيفة ذات إيحاءات جنسية لتسويق منتجاتهما.

من مغني غربي إلى نجم الكيبوب.

إن الأبحاث حول المواد الإباحية المزيفة نادرة، لكن تقريرًا أصدرته شركة الذكاء الاصطناعي DeepTrace Labs في عام 2019 وجد أنها كانت مُسلحة بالكامل تقريبًا ضد النساء، حيث كانت الممثلات الغربيات الأكثر استهدافًا، يليهن مغنيو البوب الكوري.

وقال المتحدث باسم شركة Meta، داني ليفر، في بيان إن سياسات الشركة تقيد المحتوى للبالغين الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي وغيره، كما أنها تقيد صفحة التطبيق الذي ينتج المحتوى العميق من الإعلان على منصتها.

في فبراير، بدأت ميتا، بالإضافة إلى مواقع للبالغين مثل Only**** وPorn***، بالمشاركة في أداة إلكترونية تُسمى "خذها"، والتي تتيح للمراهقين الإبلاغ عن صور وفيديوهات جنسية صريحة لأنفسهم من الإنترنت. يدعم الموقع كلاً من الفيديوهات المصورة سراً والفيديوهات المُولّدة بالذكاء الاصطناعي.

هوانغ تون (وفقا لوكالة أسوشيتد برس)

[إعلان 2]
مصدر