قال جيفري ماكجريجور، الرئيس التنفيذي لشركة تروبيك، إن الحادثة ليست سوى غيض من فيض. وأضاف ماكجريجور أن المزيد من المحتوى المُولّد بالذكاء الاصطناعي سينتشر على منصات التواصل الاجتماعي، ونحن لسنا مستعدين لذلك.
وفقًا لشبكة CNN، تسعى شركة Truepic إلى حل هذه المشكلة بتوفير تقنية تدّعي التحقق من صحة الوسائط لحظة إنشائها من خلال Truepic Lens. يُطلع تطبيق جمع البيانات المستخدمين على التاريخ والوقت والموقع والجهاز المُستخدم لإنشاء الصورة، ويُطبّق توقيعًا رقميًا للتحقق مما إذا كانت الصورة طبيعية أم مُولّدة بالذكاء الاصطناعي.
صورة مزيفة لانفجار البنتاغون تنتشر على تويتر
وقالت شركة تروبيك، وهي شركة مدعومة من مايكروسوفت تأسست في عام 2015، إنها تشهد اهتماما من جانب المنظمات غير الحكومية وشركات الإعلام، وحتى شركات التأمين التي تتطلع إلى التأكد من شرعية المطالبات.
وقال ماكجريجور إنه عندما يمكن تزييف كل شيء، وعندما يصل الذكاء الاصطناعي إلى ذروته في الجودة وإمكانية الوصول، فإننا لم نعد نعرف ما هو الواقع على الإنترنت.
تعمل شركات التكنولوجيا، مثل Truepic، على مكافحة المعلومات المضللة على الإنترنت منذ سنوات. إلا أن ظهور جيل جديد من أدوات الذكاء الاصطناعي القادرة على توليد صور ونصوص من أوامر المستخدم زاد من إلحاح هذه المسألة. في وقت سابق من هذا العام، انتشرت على نطاق واسع صور مزيفة للبابا فرانسيس مرتديًا سترة من Balenciaga، وللرئيس الأمريكي السابق دونالد ترامب أثناء اعتقاله. وقد أثارت هاتان الحادثتان قلق ملايين الأشخاص من المخاطر المحتملة للذكاء الاصطناعي.
يدعو بعض المشرّعين الآن شركات التكنولوجيا إلى معالجة هذه المشكلة من خلال تصنيف المحتوى المُنتَج بواسطة الذكاء الاصطناعي. وصرحت نائبة رئيس المفوضية الأوروبية، فيرا جوروفا، بأن شركات، منها جوجل وميتا ومايكروسوفت وتيك توك، قد انضمت إلى مدونة الممارسات الطوعية للاتحاد الأوروبي لمكافحة التضليل الإعلامي.
يحاول عدد متزايد من الشركات الناشئة وشركات التكنولوجيا العملاقة، بما في ذلك بعض الشركات التي تنفذ الذكاء الاصطناعي التوليدي في منتجاتها، تنفيذ المعايير والحلول لمساعدة الأشخاص على تحديد ما إذا كانت الصورة أو الفيديو قد تم إنشاؤه باستخدام الذكاء الاصطناعي.
لكن مع تطور تكنولوجيا الذكاء الاصطناعي بوتيرة أسرع من قدرة البشر على مواكبتها، ليس من الواضح ما إذا كانت هذه الحلول قادرة على حل المشكلة بالكامل. حتى شركة OpenAI، الشركة المطورة لـ Dall-E وChatGPT، أقرت بأن جهودها للمساعدة في اكتشاف الكتابة المُولّدة بواسطة الذكاء الاصطناعي لا تزال غير مثالية.
تتبع الشركات التي تُطوّر حلولاً نهجين لحل هذه المشكلة. يعتمد النهج الأول على تطوير برامج لتحديد الصور المُولّدة بالذكاء الاصطناعي بعد إنتاجها ومشاركتها عبر الإنترنت. أما النهج الثاني فيركز على تمييز الصورة بأنها حقيقية أو مُولّدة بالذكاء الاصطناعي باستخدام نوع من التوقيع الرقمي.
تعمل Reality Defender وHive Moderation على أول منصة. من خلال منصتهما، يُمكن للمستخدمين تحميل الصور لمسحها ضوئيًا، ثم الحصول على تحليل يُبيّن نسبة ما إذا كانت الصورة حقيقية أم مُولّدة بالذكاء الاصطناعي.
تقول شركة ريالتي ديفندر إنها تستخدم تقنية التزييف العميق وتقنية بصمة المحتوى المُولّدة للكشف عن مقاطع الفيديو والصوت والصور المُولّدة بالذكاء الاصطناعي. في مثال قدمته الشركة، عرضت ريالتي ديفندر صورةً مُولّدةً بالتزييف العميق لتوم كروز، وكانت نسبة "الشك" فيها 53%، لأن وجه الشخص في الصورة كان مشوهًا، وهو أمر شائع في الصور المُعدّلة.
صور مُصنّفة تم إنشاؤها بواسطة الذكاء الاصطناعي
تقدم هذه الخدمات نسخًا مجانية ومدفوعة. تقول شركة Hive Moderation إنها تتقاضى 1.50 دولارًا أمريكيًا لكل 1000 صورة. وتقول شركة Realty Defender إن أسعارها قد تختلف بناءً على عوامل متعددة، في الحالات التي يحتاج فيها العملاء إلى خبرة الشركة ودعمها. يقول بن كولمان، الرئيس التنفيذي لشركة Realty Defender، إن الخطر يتضاعف شهريًا لأن أي شخص يمكنه إنشاء صور مزيفة باستخدام أدوات الذكاء الاصطناعي.
تعمل العديد من الشركات الأخرى على إضافة نوع من الملصقات على الصور للتحقق مما إذا كانت حقيقية أم مُولّدة بالذكاء الاصطناعي. وحتى الآن، يُعزى هذا الجهد بشكل كبير إلى تحالف أصالة المحتوى ونشأته (C2PA).
تأسست منظمة C2PA عام ٢٠٢١ لوضع معيار تقني لإثبات منشأ وتاريخ الوسائط الرقمية، وذلك بالجمع بين مبادرة مصادقة المحتوى (CAI) من Adobe ومشروع Origin، بقيادة مايكروسوفت وهيئة الإذاعة البريطانية (BBC)، مع التركيز على مكافحة التضليل الإعلامي في الأخبار الرقمية. ومن بين الشركات الأخرى المشاركة في C2PA: Truepic وIntel وSony.
استنادًا إلى مبادئ C2PA، ستُطلق CAI أدوات مفتوحة المصدر للشركات لإنشاء بيانات اعتماد المحتوى أو بيانات وصفية تحتوي على معلومات حول الصور. ووفقًا لموقع CAI الإلكتروني، سيُتيح هذا للمبدعين مشاركة تفاصيل كيفية إنشاء الصور بشفافية. بهذه الطريقة، يُمكن للمستخدمين النهائيين الاطلاع على سياق تعديل الصورة، وتفاصيلها، وكيفية تعديلها، ثم الحكم بأنفسهم على مدى صحتها.
قامت العديد من الشركات بالفعل بدمج معيار C2PA وأدوات CAI في تطبيقاتها. يتوافق برنامج Adobe Firefly، وهو أداة تصوير جديدة تعتمد على الذكاء الاصطناعي ومُضافة إلى Photoshop، مع معيار C2PA من خلال ميزة Content Credentials. كما أعلنت مايكروسوفت أن الصور ومقاطع الفيديو المُنشأة باستخدام Bing Image Creator وMicrosoft Designer ستحمل توقيعات تشفيرية خلال الأشهر المقبلة.
في مايو، أعلنت جوجل عن ميزة "حول هذه الصورة" التي تتيح للمستخدمين معرفة وقت ظهور الصورة لأول مرة على جوجل ومكان ظهورها. كما أعلنت عملاقة البحث أن كل صورة مُولّدة بتقنية الذكاء الاصطناعي من جوجل ستحمل علامة في الملف الأصلي "لإضافة سياق" إذا وُجدت الصورة على موقع أو منصة أخرى.
بينما تسعى شركات التكنولوجيا إلى معالجة المخاوف بشأن الصور المُولّدة بالذكاء الاصطناعي وسلامة الوسائط الرقمية، يُشدّد الخبراء في هذا المجال على ضرورة تعاون الشركات مع الحكومات لمعالجة هذه المشكلة. ومع ذلك، تُسارع شركات التكنولوجيا إلى تطوير الذكاء الاصطناعي رغم المخاطر.
[إعلان 2]
رابط المصدر
تعليق (0)