لم يعد استخدام الذكاء الاصطناعي لإنتاج معلومات زائفة للتأثير على الانتخابات الرئاسية الأمريكية مصدر قلق، بل أصبح واقعًا. في 22 يناير/كانون الثاني، نشرت وزارة العدل في نيو هامبشاير (الولايات المتحدة الأمريكية) إشعارًا بشأن تلقي بعض الأشخاص تسجيلًا صوتيًا مزيفًا للرئيس جو بايدن، يطلب منهم عدم التصويت في الانتخابات التمهيدية المحلية.
ويحث التسجيل، الذي تم إنشاؤه باستخدام تقنية Deepfake المدعومة بالذكاء الاصطناعي، الناخبين على "حفظ" بطاقات الاقتراع الخاصة بهم ويزعم أن "أصوات المواطنين ستحدث الفارق في نوفمبر، وليس الثلاثاء المقبل".
تم تزوير صوت الرئيس الأمريكي جو بايدن لحث الناخبين على عدم التصويت
وبحسب بلومبرج، وجدت شركة Pindrop Security المتخصصة في كشف الاحتيال الصوتي أن صوت بايدن المزيف تم إنشاؤه بواسطة تقنية من شركة ElevenLabs الناشئة - وهي شركة ناشئة في مجال الذكاء الاصطناعي متخصصة في تطوير مولدات الصوت بالذكاء الاصطناعي، باستخدام نماذج لغوية قادرة على إضافة تجويد يشبه الإنسان إلى المحتوى بناءً على السياق.
لدى الشركة آلاف الأصوات المُعدّة مسبقًا بتقنية الذكاء الاصطناعي، ليختار المستخدمون منها أو يبتكروا نسخًا خاصة بهم. وتفيد شركة ElevenLabs على موقعها الإلكتروني بأن أصوات السياسيين المُعدّة بتقنية Deepfake يمكن استخدامها في مواقف مُعينة، مثل السخرية والرسوم الكاريكاتورية، وغيرها.
صرحت الشركة في بيان: "نبذل قصارى جهدنا لمنع إساءة استخدام أدوات الذكاء الاصطناعي الصوتي لدينا، ونأخذ أي إساءة على محمل الجد". وقد علّقت الشركة الحساب بعد وقت قصير من اكتشافها قيام شخص ما بإنشاء مقطع صوتي مزيف للرئيس جو بايدن يتعلق بالانتخابات.
قالت كاثلين كارلي، أستاذة علوم الحاسوب بجامعة كارنيجي ميلون، إن هذه القضية ليست سوى "قمة جبل الجليد" فيما يتعلق بقمع الناخبين. وأكدت كارلي: "إنها مجرد نذير لما قد يحدث".
[إعلان 2]
رابط المصدر
تعليق (0)