روبوتات الدردشة التي تعمل بالذكاء الاصطناعي تشكل خطرًا على الأطفال، وتطالب بتنظيم المطورين

[إعلان 1]

قال رئيس الوزراء الياباني فوميو كيشيدا إنه سيقترح على مجموعة الدول السبع الكبرى خطة لتنظيم مطوري الذكاء الاصطناعي.

وتهدف القواعد إلى منع انتشار المعلومات المضللة، من خلال رفع الوعي العام للتمييز بين الصور والمعلومات التي تنتجها الذكاء الاصطناعي وتلك التي لا يتم إنشاؤها بواسطة الخوارزميات.

ومن المتوقع أن يتم اقتراح المبادئ التوجيهية في وقت مبكر من الخريف، في اجتماع افتراضي لأكبر سبع اقتصادات في العالم (مجموعة السبع).

اتُهمت شركة Snap Inc. بالفشل في تقييم مخاطر خصوصية بيانات الأطفال بشكل كافٍ ودقيق عندما أطلقت روبوت محادثة يعمل بالذكاء الاصطناعي.

وذكر التقرير أن اليابان تشعر بالقلق إزاء الصور والمعلومات المعقدة التي تولدها الذكاء الاصطناعي، والتي قد تربك الجمهور وتهدد الاستقرار الاقتصادي.

في هذه الأثناء، قالت هيئة مراقبة البيانات في المملكة المتحدة إن برامج الدردشة التي تعمل بالذكاء الاصطناعي قد تشكل مخاطر على خصوصية الأطفال، وفي هذه الحالة برنامج الدردشة "My AI" الذي طورته شركة التكنولوجيا الأمريكية Snapchat.

وتقول السلطات إن سناب شات ربما فشلت في تقييم المخاطر التي تهدد خصوصية الأطفال من روبوت الدردشة الذي أطلقته الشركة في أبريل/نيسان الماضي. وقالت هيئة مفوض المعلومات (ICO) إنه إذا فشلت الشركة الأمريكية في معالجة المخاوف التي أثارتها الجهات التنظيمية بشكل مناسب، فإنها ستنظر في حظر تطبيق الذكاء الاصطناعي في جميع أنحاء البلاد.

وقالت هيئة مفوض المعلومات: "تشير النتائج الأولية للتحقيق إلى أن سناب فشلت في تقييم مخاطر الخصوصية على الأطفال والمستخدمين الآخرين بشكل كافٍ ودقيق قبل إطلاق تطبيق الذكاء الاصطناعي".

ومع ذلك، فإن بيان الهيئة التنظيمية لا يعني أن سناب شات، وهو تطبيق مراسلة يستخدمه الشباب على نطاق واسع في المملكة المتحدة، قد انتهك قوانين حماية البيانات.

وقالت شركة سناب إنها تقوم بمراجعة إعلان ICO وهي ملتزمة بحماية خصوصية المستخدم. وقالت شركة التكنولوجيا الأمريكية: "يخضع الذكاء الاصطناعي الخاص بنا لعملية مراجعة صارمة للخصوصية والقانون قبل إتاحته للجمهور". "سنواصل العمل بشكل بناء مع مكتب مفوض المعلومات لمعالجة المخاوف بشأن عمليات تقييم المخاطر لدينا."

وتقوم ICO بالتحقيق في كيفية قيام "My AI" بمعالجة البيانات الشخصية لنحو 21 مليون مستخدم لسناب شات في المملكة المتحدة، بما في ذلك الأطفال الذين تتراوح أعمارهم بين 13 و17 عامًا.

تم تطوير التطبيق بواسطة Snapchat، وهو مدعوم بنظام ChatGPT من OpenAI - وهو المثال الأكثر شهرة للذكاء الاصطناعي التوليدي الذي يسعى صناع السياسات في جميع أنحاء العالم إلى تنظيمه وسط مخاوف تتعلق بالخصوصية والسلامة.

تتطلب شبكات التواصل الاجتماعي، بما في ذلك سناب شات، أن يكون عمر المستخدمين 13 عامًا أو أكثر، لكنها لم تنجح دائمًا في منع الأطفال دون السن القانونية من استخدام منصاتها.

وفي وقت سابق، في أغسطس/آب 2023، أفادت رويترز أن الجهات التنظيمية كانت تجمع معلومات لتحديد ما إذا كان تطبيق المراسلة يعمل بشكل فعال على إزالة المستخدمين القصر من منصته.

(بحسب بلومبرج ورويترز)

تستخدم Meta بيانات مستخدمي Facebook و Instagram لتدريب روبوتات الدردشة بالذكاء الاصطناعي

وقالت شركة ميتا إنها تستخدم منشورات المستخدمين العامة على فيسبوك وإنستغرام لتدريب مساعدها الافتراضي الجديد الذي يعمل بالذكاء الاصطناعي، لكنها تستبعد المحتوى الذي تتم مشاركته فقط مع العائلة والأصدقاء.

مايكروسوفت تطلق مساعدها الافتراضي Copilot

سيكون المساعد الافتراضي Microsoft Copilot متاحًا على نظام التشغيل Windows 11 وMicrosoft 365 ومتصفح Edge ومحرك البحث Bing.

ثلاث ميزات جديدة قادمة إلى روبوت الدردشة الذكي Bard من Google

تعد التحقق من دقة الإجابة، واستيراد بيانات المستخدم عبر التطبيقات، ودعوة الآخرين للدردشة باستخدام برامج الدردشة الآلية من الميزات الجديدة القادمة إلى Google Bard.

[إعلان 2]
مصدر