منع التكنولوجيا من تجاوز الحدود الأخلاقية.

أدى الاستخدام المتزايد للذكاء الاصطناعي لأغراض غير أخلاقية إلى خلق حاجة ملحة للتحكم في التكنولوجيا وزيادة مساءلة المستخدم.

بفضل تطورها السريع، تُحدث تقنيات الذكاء الاصطناعي ثورة في العديد من المجالات، من الرعاية الصحية والتعليم والأعمال إلى الحياة اليومية. ومع ذلك، فإن سلبيات هذه التقنية تُشكل تحديات كبيرة لإدارة المعلومات والتحكم بها في الفضاء الإلكتروني.

غارقة في الأخبار الكاذبة التي يولدها الذكاء الاصطناعي.

تنتشر الأخبار الكاذبة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي على منصات التواصل الاجتماعي في المقام الأول للحصول على المشاهدات والإعجابات والتفاعل من أجل المبيعات عبر الإنترنت أو لتحقيق الربح من المنصة.

يستغلّ مُروّجو الأخبار الكاذبة الأحداث الجارية الرائجة التي تجذب انتباه الرأي العام. فعلى سبيل المثال، بعد حادث السير المروع الذي وقع في 17 سبتمبر/أيلول في سوق تان لونغ، ببلدة لاو باو، في مقاطعة كوانغ تري ، والذي أسفر عن 12 ضحية، انتشرت صورٌ مؤلمة على مواقع التواصل الاجتماعي، ما أثار دموع الكثيرين. وبعد أن تبيّن أن هذه الصور مُعدّلة بواسطة الذكاء الاصطناعي، أصدرت شرطة بلدة لاو باو تحذيراً بشأن نشر هذه الصور المُضلّلة. ولا يقتصر هذا السلوك على نشر المعلومات الكاذبة فحسب، بل يُعيق أيضاً سير التحقيقات.

وبالمثل، استغلت العديد من حسابات التواصل الاجتماعي الاهتمام الشعبي الذي أحاط بحادثة غرق قارب "غرين باي 58" السياحي في خليج ها لونغ بمقاطعة كوانغ نينه في 19 يوليو/تموز، والذي أودى بحياة العشرات، فنشرت صورًا وقصصًا مؤثرة عن الضحايا. إلا أن جزءًا كبيرًا من هذا المحتوى كان مزيفًا، تم إنشاؤه باستخدام الذكاء الاصطناعي للتلاعب بالمشاعر وجذب تفاعل مستخدمي وسائل التواصل الاجتماعي. والجدير بالذكر أن الاستخدام الواسع النطاق للصور المزيفة التي تُظهر تعاطفًا مبالغًا فيه قد يُفاقم معاناة عائلات الضحايا.

مع التطور المستمر لتقنية الذكاء الاصطناعي، أصبح إنشاء فيديو بمحتوى جذاب يتوافق تمامًا مع رغبات المستخدم لا يتطلب سوى بضع دقائق وأوامر بسيطة. ومن بين هذه المنصات، تحظى منصات الذكاء الاصطناعي من الجيل التالي، مثل KlingAI وVeo 3 وSora، بشعبية واسعة بين المستخدمين حول العالم، بما في ذلك فيتنام.

علاوة على ذلك، تُعدّ تقنية التزييف العميق - وهي مزيج من التعلّم العميق والتزييف - مصدر قلق بالغ على مستوى العالم، إذ يُمكن استخدامها لإنشاء صور أو أصوات أو مقاطع فيديو تبدو حقيقية لدرجة يصعب معها كشف زيفها. ونتيجة لذلك، انتشرت عمليات احتيال عديدة مرتبطة بهذه التقنية في فيتنام وحول العالم.

أشار الفريق نغوين مينه تشينه، نائب الرئيس الدائم للجمعية الوطنية للأمن السيبراني، إلى تزايد إساءة استخدام الذكاء الاصطناعي لأغراض غير مشروعة. فعلى وجه التحديد، يستغل مجرمو الإنترنت الذكاء الاصطناعي كخدمة (الأدوات والتطبيقات التي يوفرها الذكاء الاصطناعي) لإنشاء برامج ضارة، وانتحال الأصوات والوجوه والنصوص... لأغراض الاحتيال، والهجمات الإلكترونية، واختراق أنظمة البيانات، بل وحتى لزعزعة الأمن والإضرار بسمعة المؤسسات والشركات والقيادات.

بحسب السيد تران نغوك آنه، المدير التقني لشركة هوا بينه سايبر سبيس المحدودة (CyPeace)، فإن أحد المخاطر التي تواجه مستخدمي الذكاء الاصطناعي هو احتمال تلقيهم معلومات مضللة ناتجة عن الأداة نفسها. إضافةً إلى ذلك، هناك العديد من المشكلات الأخرى، مثل تسريب المعلومات السرية والبيانات الشخصية.

يتم نشر صور مزيفة عبر الإنترنت "لجعل المشاهدين يبكون"، وبالتالي الحصول على الإعجابات وزيادة التفاعل (لقطة شاشة).

تعزيز مسؤولية المستخدم

قبل وضع التدابير التكنولوجية والقانونية للتحكم بشكل صارم في تطوير واستخدام الذكاء الاصطناعي، يحتاج المستخدمون إلى استخدام هذه التقنية بشكل استباقي ومسؤول.

أشار خبير الأمن السيبراني فو نغوك سون، رئيس اللجنة التقنية في الجمعية الوطنية للأمن السيبراني، إلى أن البشر هم من يستغلون الذكاء الاصطناعي ويستخدمونه، لذا فإن جوانبه الإيجابية والسلبية مرتبطة ارتباطًا وثيقًا بالبشر. فإذا كان المستخدمون ماهرين ووظفوه لأغراض نبيلة، فإن هذه التقنية ستوظف نقاط قوتها لصالحهم. وعلى النقيض، إذا افتقر مستخدمو الذكاء الاصطناعي إلى الفهم أو استغلوه لأغراض غير مشروعة، فقد يتسبب ذلك في عواقب وخيمة. وأضاف خبير الأمن السيبراني: "للاستخدام الأمثل للذكاء الاصطناعي، من الضروري التركيز على بناء فريق عمل وتطوير آليات فعّالة. فالذكاء الاصطناعي لا يُحقق قيمته الحقيقية إلا عندما يكون بين أيدي من يتقنون استخدامه".

نظراً لمخاطر تقنية التزييف العميق، التي تُعدّ أداةً رئيسيةً تُسهّل عمليات الاحتيال الإلكتروني الحالية، أكّدت وزارة المالية، خلال صياغة قانون الاستثمار والأعمال، على ضرورة تنظيم أعمال تقنية التزييف العميق كقطاع أعمال مشروط، وذلك لمنع إساءة استخدام هذه التقنية التي تُسبّب اضطراباً في المعلومات وعمليات احتيال. ووفقاً لوزارة المالية، تُعتبر أعمال تقنية التزييف العميق حالياً من المجالات الجديدة ذات المخاطر المحتملة والمعقدة على الأمن والنظام، ومع ذلك فهي غير مُنظّمة كقطاع أعمال مشروط.

بحسب المحامي تران آنه توان (نقابة المحامين في هانوي)، فإن استخدام الذكاء الاصطناعي لإنشاء محتوى دون إذن، وخاصةً لإنشاء معلومات كاذبة أو ملفقة أو احتيالية، قد يُعدّ انتهاكًا لأحكام القانون المدني. وقد يواجه المخالفون عقوبات إدارية أو تعويضات عن الأضرار. وفي الحالات التي تُسبب عواقب وخيمة، قد تُلاحق جنائيًا. ونصح المحامي توان قائلًا: "يجب على المستخدمين توخي الحذر عند الوصول إلى الذكاء الاصطناعي واستخدامه، وتجنب أي إجراءات تستغل الذكاء الاصطناعي للحصول على مشاهدات أو إعجابات؛ وعليهم تعزيز مسؤوليتهم الشخصية والامتثال للقانون عند استخدام الذكاء الاصطناعي والمشاركة في البيئة الإلكترونية".

أكد الفريق نغوين مينه تشينه أن العنصر الأساسي في تطوير الذكاء الاصطناعي المستدام هو الموارد البشرية. فمن الباحثين والمهندسين وخبراء الأمن السيبراني إلى المديرين والمستخدمين، يجب أن يكون الجميع مُلِمًّا بالمعرفة والمهارات والأخلاقيات والوعي القانوني. ووفقًا له، فإن هذا ليس الفريق الذي يبني ويشغل أنظمة الذكاء الاصطناعي فحسب، بل هو أيضًا القوة الدافعة الرئيسية في منع وكشف ومكافحة الجرائم الإلكترونية عالية التقنية في الفضاء السيبراني.

ستصدر فيتنام قانوناً بشأن الذكاء الاصطناعي.

في مؤتمر علمي وطني عُقد مؤخراً حول الذكاء الاصطناعي، صرّح وزير العلوم والتكنولوجيا نغوين مان هونغ بأن الذكاء الاصطناعي يفتح آفاقاً واسعة، ولكنه يثير أيضاً العديد من القضايا المتعلقة بالأخلاقيات والتوظيف والثقة الاجتماعية. لذا، يجب أن يكون تطوير الذكاء الاصطناعي سريعاً وآمناً وإنسانياً.

بحسب الوزير نغوين مان هونغ، فإن الذكاء الاصطناعي لا يحل محل البشر، بل يخدمهم ويعمل كمساعد لهم. يُعدّ الذكاء الاصطناعي أداةً قوية، لكن البشر هم صُنّاع القرار؛ لذا، ينبغي أن يدعم الذكاء الاصطناعي التفكير والقيم والمسؤوليات البشرية، لا أن يحل محلها. وصرح الوزير نغوين مان هونغ قائلاً: "ستصدر وزارة العلوم والتكنولوجيا مدونة أخلاقيات وطنية للذكاء الاصطناعي تتوافق مع المعايير الدولية، ولكنها مصممة لتناسب الواقع الفيتنامي، كما ستعمل على وضع قانون واستراتيجية خاصة بالذكاء الاصطناعي".

المصدر: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm