صورة إباحية لتايلور سويفت تم إنشاؤها بواسطة الذكاء الاصطناعي تثير مخاوف بشأن المعلومات المضللة

[إعلان 1]

على موقع التواصل الاجتماعي X (تويتر سابقًا)، حصدت صورٌ مزيفةٌ مُولّدةٌ بالذكاء الاصطناعي لتايلور سويفت، تُظهر المغنية في وضعيةٍ جنسيةٍ صريحة، عشرات الملايين من المشاهدات. ورغم حذفها من المنصة منذ ذلك الحين، لم يختفِ شيءٌ من الإنترنت للأبد، وستستمر مشاركتها بلا شك على منصاتٍ أخرى أقل تنظيمًا.

اتهامات تايلور سويفت ومعلوماتها الكاذبة مُحرجة. الصورة ١ — المغنية تايلور سويفت، التي يُقال إنها أشهر نجمة في العالم اليوم. الصورة: Getty Images

مثل معظم منصات التواصل الاجتماعي الرئيسية، تحظر سياسة X مشاركة "الوسائط الاصطناعية أو المتلاعب بها أو خارج السياق والتي قد تضلل الناس أو تربكهم وتؤدي إلى الأذى".

وأثارت الحادثة مخاوف بشأن الذكاء الاصطناعي، حيث يمكن للجهات السيئة استخدامه لإنشاء صور ومقاطع فيديو مضللة، مما يؤدي إلى انتشار المعلومات المضللة على نطاق واسع.

قال بن ديكر، مدير وكالة ميميتيكا للتحليلات الجنائية الرقمية: "هذا مثالٌ واضح على كيفية توظيف الذكاء الاصطناعي لأغراضٍ خبيثة دون ضماناتٍ كافية". وأضاف: "إن استغلال أدوات الذكاء الاصطناعي الإبداعية لإنشاء محتوى ضار يستهدف المشاهير ينمو بسرعةٍ وينتشر أسرع من أي وقتٍ مضى على منصات التواصل الاجتماعي".

قال: "شركات التواصل الاجتماعي تفتقر فعليًا إلى خطط فعّالة لمراقبة المحتوى". على سبيل المثال، سرّحت شركة X معظم موظفيها المسؤولين عن إدارة المحتوى، معتمدةً فقط على الأنظمة الآلية وتقارير المستخدمين. كما قلّصت شركة Meta عدد فرقها المسؤولة عن معالجة المعلومات المضللة والمضايقات على منصتها.

تزامنت الحادثة أيضًا مع الانتشار الواسع لأدوات الذكاء الاصطناعي مثل ChatGPT وDall-E. وأشار ديكر إلى أنه إلى جانب هذه الأدوات، شهدنا أيضًا ارتفاعًا في نماذج الذكاء الاصطناعي غير الآمنة للأعمال غير المدققة في منصات مفتوحة المصدر.

هذا مؤشر على وجود خلاف كبير في إدارة المحتوى وحوكمة المنصات بين شركات الذكاء الاصطناعي، وشركات التواصل الاجتماعي، والهيئات التنظيمية، والمجتمع المدني. ما لم يتفق الجميع على كيفية معالجة هذا الخلاف، سيستمر هذا النوع من المحتوى المزيف في الانتشار.

لكن ديكر قال إن استهداف تايلور سويفت، أشهر نجمة في العالم، بمحتوى مزيف قد يلفت الانتباه أكثر إلى القضايا المتنامية المحيطة بالصور المُولّدة بالذكاء الاصطناعي. هذا الأسبوع، لجأت قاعدة المعجبين الضخمة للمغنية حول العالم إلى وسائل التواصل الاجتماعي للتعبير عن غضبها، مما جعل هذه القضية مصدر قلق بالغ.

وقال ديكر إنه عندما تقع شخصيات مؤثرة مثل تايلور سويفت ضحية للذكاء الاصطناعي، فسوف يتم دفع المشرعين وشركات التكنولوجيا إلى التصرف تحت ضغط وسائل الإعلام.

استُخدم هذا النوع من التقنيات على نطاق واسع من قِبل المحتالين لإنشاء صور إباحية للآخرين ونشرها على الإنترنت لأغراض خبيثة. ولكن لم يحظَ هذا النوع من تقنيات الاحتيال باهتمام واسع النطاق إلا بعد أن وقع مشاهير مثل تايلور سويفت ضحيةً له.

في الولايات المتحدة، أقرت تسع ولايات قوانين ضد إنشاء أو مشاركة الصور المزيفة بشكل غير توافقي، وهي صور اصطناعية تم إنشاؤها لتقليد شكل الشخص.

هواي فونج (بحسب سي إن إن)

[إعلان 2]
مصدر