جوجل: يتم إساءة استخدام برنامج Gemini AI لإنشاء محتوى إرهابي مزيف.

في بيان أرسلته إلى السلطات الأسترالية، قالت جوجل إنها تلقت خلال العام الماضي 258 شكوى على مستوى العالم بشأن استخدام برنامج الذكاء الاصطناعي الخاص بها، جيميني، لإنشاء محتوى إرهابي مزيف أو محتوى متطرف عنيف؛ و86 تقريرًا من المستخدمين تحذر من إساءة استخدام جيميني لإنتاج محتوى إساءة معاملة الأطفال.

Báo Nhân dân•06/03/2025

وقد خلصت لجنة السلامة الإلكترونية الأسترالية (ESSC) إلى أن تقرير جوجل يقدم أول نظرة ثاقبة في العالم حول كيفية استغلال المستخدمين للتكنولوجيا لإنشاء محتوى ضار وغير قانوني.

صرحت المفوضة جولي إنمان جرانت من لجنة الأمن السيبراني بأن هذا يؤكد أهمية قيام الشركات التي تطور منتجات الذكاء الاصطناعي ببناء واختبار فعالية الضمانات لمنع إنتاج المحتوى الضار والمزيف.

استخدمت جوجل خاصية المطابقة - وهي نظام آلي يطابق الصور التي تم تحميلها حديثًا مع الصور المعروفة - لتحديد وإزالة محتوى إساءة معاملة الأطفال الذي أنشأته شركة جيميني. ومع ذلك، ذكرت هيئة السلامة الإلكترونية الأسترالية أن جوجل لم تستخدم النظام نفسه لإزالة المحتوى الإرهابي أو المتطرف العنيف الذي أنشأته جيميني.

بموجب القانون الأسترالي الحالي، يتعين على شركات التكنولوجيا تزويد لجنة الأمن الإلكتروني بشكل دوري بمعلومات حول جهودها للحد من الأضرار وإلا ستواجه عقوبات.

في الآونة الأخيرة، طُلب من الشركات تقديم معلومات إلى هذه اللجنة للفترة من أبريل 2023 إلى فبراير 2024. وقد فرضت لجنة السلامة الإلكترونية الأسترالية غرامة على Telegram و Twitter - التي أعيد تسميتها لاحقًا إلى X - بسبب أوجه القصور في تقاريرها.

سبق لمنصة X أن استأنفت غرامتها البالغة 610,500 دولار أسترالي (382,000 دولار أمريكي) مرةً واحدة، ولكن من المتوقع أن تستأنفها مجدداً. كما تعتزم تيليجرام أيضاً استئناف الغرامة المفروضة على القناة.

منذ أن انتشر برنامج الدردشة الآلي "المثير" ChatGPT من شركة OpenAI الأمريكية على نطاق واسع في أواخر عام 2022، دعت الهيئات التنظيمية في جميع أنحاء العالم إلى اتخاذ تدابير أكثر فعالية لضمان عدم إساءة استخدام الجهات الخبيثة للذكاء الاصطناعي للتحريض على الإرهاب، وارتكاب عمليات الاحتيال، وإنشاء محتوى إباحي مزيف، والانخراط في أنشطة مسيئة أخرى.

المصدر: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html