الجانب المظلم لإساءة استخدام الذكاء الاصطناعي

من المتوقع أن يشهد عام جياب ثين القمري الجديد 2024 ازدهارًا كبيرًا على الإنترنت مع انتشار عدد لا يحصى من تطبيقات تحية تيت المدعومة بتقنيات الذكاء الاصطناعي. إلى جانب تطبيقات من "عمالقة التكنولوجيا" مثل مايكروسوفت كوبيلوت، وجوجل بارد، وChatGPT من OpenAI... هناك أيضًا العديد من التطبيقات الفيتنامية.

وليس فقط باستخدام تحيات النصوص، بل يمكن للمستخدمين أيضًا أن يطلبوا من الذكاء الاصطناعي إنشاء بطاقات تيت تحتوي على صور ومقاطع فيديو .

بطاقات تهنئة تيت تم إنشاؤها بواسطة الذكاء الاصطناعي لعام التنين.

ومع ذلك، سيشعر الكثيرون بالإحباط عندما يعلمون أن تهاني العام الجديد المرسلة إليهم من صنع "روبوتات". لم تعد هذه التهاني تحمل مشاعر المُرسِل الحقيقية.

لطالما حذّر الناس من إساءة استخدام الذكاء الاصطناعي في جميع مجالات الحياة. هذا الإساءة تُضعف قدرة الناس على استخدام عقولهم. في السابق، ساعدت ثورة الأتمتة التي أحدثتها الآلات الناس على تقليل العمل اليدوي والجسدي؛ لكن إساءة استخدامها ستجعلهم كسالى وضعفاء. اليوم، أثّرت تقنية الذكاء الاصطناعي على النشاط العقلي للإنسان. لا شك في فوائد الذكاء الاصطناعي، ولكن كيف يُمكن تطبيقه بفعالية في الوقت والمكان المناسبين؟ إساءة استخدام الذكاء الاصطناعي، حتى وإن لم تكن لأغراض سيئة، لا تزال غير مفيدة للمستخدمين.

يشير الخبراء أيضًا إلى أنه في ظلّ ازدياد استخدام تطبيقات الذكاء الاصطناعي، سيشهد مهرجان تيت هذا العام انتشارًا متزايدًا لتطبيقات تحرير الصور الشخصية، المُصممة من صور المستخدمين. الأمر ممتع، لكن على المستخدمين توخي الحذر واستخدام التطبيقات من مصادر موثوقة فقط. قد يؤدي إساءة استخدام تطبيقات "تغيير الوجوه" إلى سرقة هويات المستخدمين لأغراض سيئة، بل وضارة.

تُحذّر إدارة أمن المعلومات ( وزارة المعلومات والاتصالات ) من أن معظم أنشطة تعديل الوجوه عبر الإنترنت تتطلب تقديم صور شخصية، مما يُشكّل العديد من المخاطر المُحتملة على أمن المعلومات. وصرح السيد نجوين دوي خيم، مُمثل إدارة أمن المعلومات، قائلاً: "بالإضافة إلى إلزام المستخدمين بتقديم صور، تطلب مُعظم التطبيقات أيضًا الوصول إلى مكتبات الصور، وكاميرات الهواتف، بالإضافة إلى عناوين البريد الإلكتروني، وأرقام الهواتف، وغيرها. وبناءً على ذلك، يُمكن لمُقدّمي الخدمات جمع المعلومات الشخصية للمستخدمين ومعالجتها لأغراض مُختلفة."

في الواقع، من خلال الصور الشخصية التي يقدمها المستخدمون، يمكن لأصحاب التطبيقات إنشاء صور أخرى، مما يجعل البيانات المزيفة تسبب العديد من العواقب غير المتوقعة.

المصدر: https://nld.com.vn/mat-trai-cua-viec-lam-dung-ai-19624010921563478.htm