تُفعّل OpenAI وضع 18+ على ChatGPT: كيف نحمي القاصرين؟

ستسمح OpenAI للمستخدمين الموثقين بالوصول إلى المحتوى المخصص للبالغين ابتداءً من ديسمبر 2025، مما يفتح سوقًا جديدة ولكنه يطرح تحديًا كبيرًا فيما يتعلق بحماية القاصرين.

برنامج دردشة آلي للبالغين مزود بخاصية التحقق من العمر وتنبيهات السلامة للأطفال.

يُعتبر تأكيد OpenAI على أنها ستسمح للمستخدمين البالغين الذين تم التحقق منهم بالوصول إلى المحتوى المخصص للبالغين على ChatGPT بدءًا من ديسمبر 2025 بمثابة علامة فارقة مهمة للصناعة، حيث يعزز نمو السوق ويضع معيارًا جديدًا لحماية القاصرين.

برامج الدردشة الآلية للبالغين - حلبة السباق الجديدة للذكاء الاصطناعي.

قامت منصات الذكاء الاصطناعي بنشر نماذج بسرعة لتلبية احتياجات البالغين، بدءًا من المحادثات الحميمة وصولًا إلى الدعم العاطفي.

بحسب الرئيس التنفيذي سام ألتمان، كان برنامج ChatGPT يخضع سابقًا لقيود مشددة لتجنب المخاطر على الصحة النفسية، إلا أن هذا النهج جعل النموذج أقل فائدة وجاذبية للعديد من المستخدمين. وأضاف أن شركة OpenAI تتجه نحو مبدأ "معاملة البالغين كبالغين".

وقد أدى إضافة وضع الوصول المتحكم به للمستخدمين الموثقين إلى زيادة حيوية سوق برامج الدردشة الآلية للبالغين الذي يشهد نمواً سريعاً بالفعل.

لقد أصبح المشهد التنافسي أكثر وضوحاً حيث تم التشكيك مؤخراً في قدرة برنامج xAI الخاص بإيلون ماسك من قبل وسائل الإعلام الدولية على إنشاء محتوى للبالغين يتعلق بالمشاهير، مما أدى إلى مطالبات ملحة بمعايير حماية جديدة.

"مشكلة" التحقق من العمر.

يُمثل فتح الوصول إلى المحتوى المخصص للبالغين تحديًا كبيرًا: التحقق من عمر المستخدم. يوفر التحقق باستخدام وثائق الهوية موثوقية عالية، ولكنه ينطوي على مخاطر تتعلق بالخصوصية وأمن البيانات الشخصية. في المقابل، تتطلب أساليب التحقق القائمة على الذكاء الاصطناعي، سواءً السلوكية أو اللغوية، مجموعات بيانات ضخمة ونماذج متطورة، ولا تزال تنطوي على خطر تجاوز المستخدمين لها.

يتفاقم التحدي بسبب خصائص توليد المحتوى بواسطة الذكاء الاصطناعي. إذ يمكن لروبوتات الدردشة توليد معلومات جديدة في الوقت الفعلي، وتوسيع نطاق المحادثات بطرق حساسة، أو تفسير الطلبات الغامضة إلى محتوى غير لائق.

تتزايد المخاطر بشكل كبير عندما يدعم النموذج وسائط متعددة مثل إنشاء الصور والصوت والفيديو . يجب منع أي قدرة على محاكاة أو توليف محتوى حساس يتضمن قاصرين، حتى في شكل محاكاة، منعًا باتًا، مما يتطلب من المطورين وضع آليات تحكم بدءًا من طبقة تصميم النموذج وصولًا إلى طبقة تصفية المحتوى.

ضغط المسؤولية على شركات الذكاء الاصطناعي.

أثارت أنباء استعداد شركة OpenAI لتفعيل وضع المحتوى المخصص للبالغين قلق العديد من منظمات حماية الطفل. إذ تحذر هذه المنظمات من أن إضفاء الشرعية على المحتوى المخصص للبالغين باستخدام الذكاء الاصطناعي قد يشجع القاصرين، دون قصد، على البحث عن طرق لتجاوز الحدود.

في فيتنام، أعرب العديد من الآباء أيضاً عن قلقهم من أن منصة مرتبطة تقليدياً بالتعلم، مثل ChatGPT، قد أدخلت وضعاً مخصصاً للبالغين.

هذه الضغوط تجبر شركات الذكاء الاصطناعي على تطبيق مبدأ "السلامة بالتصميم" بشكل كامل: التحكم في بيانات التدريب، ومراقبة المدخلات والمخرجات، ونشر المرشحات في الوقت الفعلي، والحفاظ على آليات التدقيق المنتظمة.

أصبحت الشفافية في العمليات، والإفصاح العلني عن التدابير الوقائية، وقبول ملاحظات المجتمع متطلبات إلزامية لخلق بيئة آمنة للبالغين دون تعريض الفئات الضعيفة من المستخدمين للخطر.

إن قرار OpenAI بالسماح للمستخدمين الموثقين بالوصول إلى المحتوى المخصص للبالغين ليس مجرد إنجاز تجاري، بل هو أيضاً تذكير بأن الابتكار التكنولوجي يجب أن يكون مصحوباً بمعايير مسؤولة.

لكي يزدهر النظام البيئي للذكاء الاصطناعي بشكل مستدام، تحتاج الشركات إلى إعطاء الأولوية للسلامة، والحفاظ على التوازن بين الابتكار والمسؤولية تجاه حماية المجتمع.

سونغ تري

المصدر: https://tuoitre.vn/openai-bat-che-do-18-บн-chatgpt-lam-sao-bao-ve-tre-vi-thanh-nien-2025121111362172.htm