ثيو 9to5Macقامت شركة Apple مؤخرًا بإزالة العديد من تطبيقات إنشاء الصور المدعومة بالذكاء الاصطناعي من متجر التطبيقات. وهي تطبيقات مصممة خصيصًا لإنشاء صور عارية مثيرة للجدل، مما يثير قلق الكثير من الأشخاص، وخاصة المراهقين.
يأتي إجراء Apple بعد أن أجرت 404 Media تحقيقًا يسلط الضوء على الطبيعة الإشكالية لتطبيقات التصوير بالذكاء الاصطناعي. كشفت التحقيقات الأولية التي أجرتها 404 Media عن اتجاه مثير للقلق يتمثل في الإعلان عن تطبيقات الذكاء الاصطناعي على Instagram بادعاءات مثل "خلع الملابس مجانًا لأي فتاة". غالبًا ما توجه هذه الإعلانات المستخدمين إلى متجر التطبيقات، حيث يتم وصفها بأنها "أدوات إنشاء الفن". لم يكشف التحقيق عن وجود هذه التطبيقات فحسب، بل سلط الضوء أيضًا على إمكانية الوصول إليها من خلال منصات الإعلان الرئيسية.
في حين أن شركة آبل لم ترد على الفور على الاستفسارات الأولية من 404 Media، إلا أن الشركة اتخذت إجراءات سريعة عند تلقي التفاصيل، بما في ذلك الروابط المباشرة لتطبيقاتها وإعلاناتها. يساعد هذا النهج الاستباقي الشركة على إزالة التطبيقات المخالفة على الفور من متجر التطبيقات لمنع إساءة استخدام التكنولوجيا لإنشاء محتوى ضار.
في الواقع، حظيت تطبيقات التصوير بالذكاء الاصطناعي المذكورة أعلاه بالكثير من الاهتمام في الأشهر الأخيرة بعد استخدامها لإنشاء صور عارية مزيفة للمراهقين في المدارس في الولايات المتحدة وفي جميع أنحاء أوروبا. وللحد من هذه التطبيقات الضارة عبر الإنترنت، اتخذت منصات مثل Meta خطوات لإزالة مثل هذه الإعلانات، على الرغم من استمرار التحديات في التحكم الفعال في هذا المحتوى.
على الرغم من أن إجراءات Apple تعد خطوة في الاتجاه الصحيح، إلا أنها تسلط الضوء أيضًا على التحديات المستمرة في الإشراف على المحتوى الرقمي. واجهت شركات مثل جوجل أيضًا التدقيق لتوجيه المستخدمين إلى مواقع مثل "MrDeepFakes"، المعروفة بمحتواها الجنسي الصريح المزيف الذي يشمل المشاهير والشخصيات العامة.
تدرك شركة Apple أن هذه ليست معركة سهلة، ولا يزال من الممكن استبدال التطبيقات المحذوفة بتطبيقات جديدة لإنشاء الصور العارية. وفي الواقع، هذا اتجاه يجب إيقافه لحماية سلامة وخصوصية المستخدمين على شبكات التواصل الاجتماعي.