السيطرة على الجانب المظلم للذكاء الاصطناعي

لكي يعمل الذكاء الاصطناعي، يحتاج إلى "دماغ" يُسمى نموذج الذكاء الاصطناعي - وهو نظام من النماذج الرياضية والخوارزميات المُدرَّبة على كميات هائلة من البيانات. هذا النموذج هو ما يُمكِّن الآلة من تعلم القواعد، وتحليل المعلومات، والتنبؤ، أو إنشاء محتوى جديد...

س: ما هو نموذج الذكاء الاصطناعي وما هي أنواع النماذج الشائعة اليوم؟

الإجابة: لكي يعمل الذكاء الاصطناعي، يحتاج إلى "دماغ" يُسمى نموذج الذكاء الاصطناعي - وهو نظام من النماذج الرياضية والخوارزميات المُدرَّبة على كميات هائلة من البيانات. هذا النموذج هو ما يُمكِّن الآلة من تعلُّم القواعد، وتحليل المعلومات، والتنبؤ، أو إنشاء محتوى جديد...

بناءً على المدخلات والمخرجات، يمكن تقسيم نماذج الذكاء الاصطناعي الحالية إلى عدة مجموعات. المجموعة الأكثر شيوعًا اليوم هي تحويل النص إلى نص، حيث يُدخل المستخدمون نصًا، ويُولّد الذكاء الاصطناعي نص استجابة مناسبًا (مثل برامج الدردشة الآلية مثل ChatGPT وGemini وClaude...). أما مجموعة تحويل النص إلى صورة، فتُدخل فيها كوصف نصي، وتُخرج كصورة مُولّدة بواسطة الذكاء الاصطناعي (مثل Midjourney وDALL·E...).

المجموعة التالية هي النص إلى الصوت، والتي تحول النص إلى كلام أو مؤثرات صوتية؛ مجموعة الصورة إلى نص، والتي تستخدم الصور كمدخلات للذكاء الاصطناعي لتوليد الأوصاف أو التحليل؛ مجموعة الصورة إلى صورة تحول الصور إلى صور أخرى، وغالبا ما تستخدم لمهام مثل الترميم، وتحويل الأسلوب؛ مجموعة الصورة إلى فيديو ، وسوف يقوم الذكاء الاصطناعي بإنشاء مقاطع فيديو متحركة محاكاة بناءً على الصور الثابتة؛ مجموعة الفيديو إلى نص تسمح بتحليل أو تلخيص المحتوى من مقاطع الفيديو، وتطبيقها في أنظمة استخراج المعلومات، أو شرح الفيديو أو تحليل بيانات المراقبة.

من بين التقنيات القوية اليوم تقنية تحويل النص إلى فيديو، التي تُحوّل النص إلى فيديو. في هذا النموذج، يُدخل المستخدمون وصفًا موجزًا، ليُنتج نظام الذكاء الاصطناعي فيديو يتناسب مع السياق والحركة والإضاءة، وحتى زاوية الكاميرا.

أولت أدوات بارزة مثل Pika Labs وSora (OpenAI)، ومؤخرًا مجتمع التكنولوجيا العالمي، بما في ذلك فيتنام، اهتمامًا خاصًا بأداة Veo 3، التي طورتها Google DeepMind. تتميز مقاطع Veo 3 بواقعيتها شبه المطلقة، وتقترب من مستوى صانعي الأفلام المحترفين، مما أثار إعجاب الكثيرين.

أصبح إنشاء الفيديوهات سهلاً ككتابة فقرة، مما أدى إلى ظهور الكثير من المحتوى "الزائف" المُنتج لمجرد جذب الانتباه، بما في ذلك الفيديوهات المثيرة للجدل، أو تلك التي تستخدم لغة بذيئة، أو تلك التي تحتوي على معلومات مضللة. والأخطر من ذلك، أن أدوات مثل Veo 3، وإن لم تكن أداة متخصصة في التزييف العميق، لا تزال قابلة للاستغلال لإنشاء صور أو أصوات مزيفة متطورة لأشخاص حقيقيين، مما يسهل خداع المشاهدين، ويضر بالسمعة الشخصية، وأمن المعلومات، والنظام الاجتماعي، ويزيد من خطر الاحتيال في الفضاء الإلكتروني (التزييف العميق هو تقنية تستخدم الذكاء الاصطناعي لإنشاء صور ومقاطع فيديو وأصوات مزيفة تبدو حقيقية لدرجة يصعب على المستخدمين تمييزها...).

الأمر الأكثر إثارة للقلق هو أن الكثير من المحتوى المُشوّه والزائف يُنتَج ويُنشر بسرعة مذهلة، وينتشر عبر منصات التواصل الاجتماعي دون أي تحقّق أو رقابة. وأكثر الفئات عرضة للخطر هم الأطفال والمراهقون، الذين غالبًا ما يفتقرون إلى مهارات التمييز بين الحقيقة والزيف، ما يجعلهم أكثر عرضة للمحتوى السام، مما يترك آثارًا طويلة الأمد على الإدراك والسلوك.

س: بالنظر إلى التطور السريع لأدوات مثل Veo 3، ما هو الحل للحد بشكل فعال من استخدام الذكاء الاصطناعي لأغراض غير مناسبة؟

الإجابة: يتضح أن النظام الإداري والقانوني الحالي لا يزال أبطأ من وتيرة تطور تكنولوجيا الذكاء الاصطناعي، مما يُخلّف ثغرات قانونية عديدة ومخاطر غير متوقعة. وهذا يتطلب إرساء إطار إداري استباقي ومرن ومتزامن في وقت مبكر، وفي الوقت نفسه، رفع مستوى الوعي العام بالاستخدام المسؤول للذكاء الاصطناعي.

يعتمد التطوير المسؤول للذكاء الاصطناعي في المقام الأول علينا - نحن الذين نبتكره ونديره ونستخدمه. لا ينبغي النظر إلى مفهومي الابتكار والإدارة كقطبين متعارضين، بل كوجهين لعملية ذُكرت مرارًا وتكرارًا. لذلك، من جهة، علينا أن نكون منفتحين على تشجيع التطور التكنولوجي، ومن جهة أخرى، علينا أن نبادر إلى إرساء مبادئ أخلاقية وقواعد قانونية مناسبة للسياق الجديد.

في فيتنام، بالإضافة إلى الاستمرار في تحسين المؤسسات، تم ذكر عدد من الحلول مؤخرًا، مثل اقتراح لجنة أخلاقيات الذكاء الاصطناعي التابعة لجمعية خدمات البرمجيات وتكنولوجيا المعلومات في فيتنام (VINASA) بشأن بناء مدونة قواعد سلوك أخلاقيات الذكاء الاصطناعي، لتحديد حدود سلوكية لكل من المطورين والمستخدمين.

إلى جانب ذلك، هناك فكرة تشكيل مجموعة لغة بيانات مفتوحة قياسية على المستوى الوطني، بهدف مساعدة مطوري الذكاء الاصطناعي المحليين والأجانب على الحصول على أساس للامتثال للعوامل السياسية والسياق الثقافي والقانوني والتاريخي لفيتنام.

يُعد اقتراح تصنيف وتصنيف منتجات الذكاء الاصطناعي فكرةً قابلةً للتطبيق أيضًا. ينبغي أن تكون تصنيفات الذكاء الاصطناعي إلزامية، ويمكن تصنيفها حسب مستويات التدخل المختلفة: من التحرير الجزئي إلى الإنتاج الكامل، أو حسب المحتوى، كما هو الحال بالنسبة للألعاب والأفلام.

إلى جانب ذلك، ينبغي إرساء آلية واضحة للتدقيق اللاحق، تُحمّل المسؤولية للطرفين. ومن منظور اجتماعي، يُعدّ تثقيف جميع السكان، وخاصة الأطفال والمراهقين، بمحو الأمية الرقمية أمرًا بالغ الأهمية؛ إذ تُعدّ المساعدة في بناء القدرة على تحديد المحتوى الضار، وتطبيق قواعد التحقق من المعلومات، حلولًا أساسية في مجتمعٍ يزداد اضطرابه بسبب المحتوى الافتراضي.

كوانغ هوي

المصدر: https://nhandan.vn/kiem-soat-mat-trai-cua-tri-tue-nhan-tao-post886971.html