تمكنت شركة مايكروسوفت من تحديد شبكة دولية من المجرمين الإلكترونيين كانت قادرة على تجاوز حماية خدمات الذكاء الاصطناعي لإنشاء محتوى ضار، بما في ذلك صور المشاهير الحساسة وغيرها من المواد الإباحية.

قام المتسللون بجمع بيانات اعتماد الخدمة من مصادر عامة واستخدموها للوصول إلى خدمات الذكاء الاصطناعي التوليدية، بما في ذلك Azure OpenAI من Microsoft.

ثم يقومون بتعديل قدرات منتجات الذكاء الاصطناعي وبيع الوصول إليها إلى عصابات إجرامية أخرى، وتعليمهم كيفية إنشاء محتوى ضار.

هاكر d3sign/Moment RF
كشفت مايكروسوفت علنًا عن أربعة قراصنة يبيعون أدواتٍ "للتغلب" على خدمة الذكاء الاصطناعي. الصورة: d3sign/Moment RF

وفقًا لمايكروسوفت، هؤلاء الأفراد هم: أريان يادجارنيا (المعروف باسم فيز) من إيران، وآلان كريسياك (دراغو) من المملكة المتحدة، وريكي يوين (cg-dot) من هونج كونج (الصين)، وفات فونج تان (أساكوري) من فيتنام.

جميعهم متهمون بالانتماء إلى شبكة الجرائم الإلكترونية Storm-2139. شخصان آخران من الولايات المتحدة، لكن مايكروسوفت لم تكشف عن هويتهما حفاظًا على سرية التحقيق.

تقول مايكروسوفت إن Storm-2139 مُقسّم إلى ثلاث مجموعات رئيسية: المُنشئون، والموردون، والمستخدمون النهائيون. يُنشئ المُنشئون أدوات غير قانونية لإساءة استخدام خدمة الذكاء الاصطناعي المُولّد؛ ثم يُعدّلونها ويُقدّمونها للمستخدمين النهائيين بأسعار وخدمات مُختلفة؛ وأخيرًا، يستخدم المستخدمون هذه الأدوات لإنشاء محتوى ضار، غالبًا ما يدور حول نجوم وصور إباحية.

تم نشر هذه المعلومات من قبل شركة مايكروسوفت وسط مخاوف متزايدة بشأن إساءة استخدام الذكاء الاصطناعي لإنشاء صور مزيفة لكل من المشاهير والأشخاص العاديين، فضلاً عن صور إباحية للأطفال.

وتحظر شركات مثل مايكروسوفت وOpenAI هذه الممارسات وتتخذ التدابير التقنية لمنعها، لكن مجموعات القراصنة مثل المجموعة المذكورة أعلاه لا تزال تجد طرقًا "للالتفاف على القواعد".

وقال ستيفن ماسادا، المستشار العام المساعد لوحدة الجرائم الرقمية في شركة مايكروسوفت، إنهم يدركون التأثير الخطير والدائم الذي تخلفه الصور المسيئة على الضحايا.

تلتزم الشركة بحماية المستخدمين من خلال تضمين تدابير السلامة الخاصة بالذكاء الاصطناعي في المنصة وحماية الخدمة من المحتوى غير القانوني والضار.

في ديسمبر 2024، رفعت DCU دعوى قضائية في المنطقة الشرقية من فرجينيا (الولايات المتحدة الأمريكية) ضد 10 أفراد مجهولين شاركوا في أنشطة تنتهك القانون الأمريكي وسياسات Microsoft.

وأصدرت المحكمة أمرا تقييديا مؤقتا وأمر قضائيا أوليا يسمح لشركة مايكروسوفت بالاستيلاء على موقع على شبكة الإنترنت يستخدم في أنشطة إجرامية، مما يعطل قدرة المجموعة على العمل.

ومن الجدير بالذكر أنه بعد هذا الإجراء، أرسل بعض الأعضاء المشتبه في انتمائهم إلى Storm-2139 رسائل بريد إلكتروني إلى مستشاري Microsoft وألقوا اللوم على بعضهم البعض.

وكتبت مايكروسوفت في منشور على مدونتها في 27 فبراير/شباط: "تؤكد هذه الاستجابة على تأثير الإجراءات القانونية التي اتخذتها مايكروسوفت وتوضح كيف يمكن للتدابير أن تعطل شبكات المجرمين الإلكترونيين بشكل فعال من خلال الاستيلاء على البنية التحتية وخلق تأثير رادع قوي على الأعضاء".

(وفقا لمايكروسوفت وبلومبرج)