منع التكنولوجيا من تجاوز الحدود الأخلاقية

بفضل تطوره السريع، يُحدث الذكاء الاصطناعي ثورةً في مجالاتٍ عديدة، من الرعاية الصحية والتعليم والأعمال التجارية، وصولًا إلى الحياة اليومية. إلا أن الجوانب السلبية لهذه التقنية تُشكل تحدياتٍ كبيرةً لإدارة المعلومات والتحكم فيها في الفضاء الإلكتروني.

غارقة في الأخبار المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي

يتم نشر الأخبار المزيفة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي على منصات التواصل الاجتماعي بشكل أساسي لجذب المشاهدات والإعجابات وزيادة التفاعلات لبيعها عبر الإنترنت أو الربح من المنصة.

غالبًا ما يتابع مُروِّجو الأخبار الكاذبة القضايا الساخنة الراهنة التي تُثير قلقًا عامًا. على سبيل المثال، بعد حادث مروري خطير وقع في 17 سبتمبر/أيلول في سوق تان لونغ، ببلدة لاو باو، بمقاطعة كوانغ تري ، وأسفر عن إصابة ووفاة 12 شخصًا، انتشرت على مواقع التواصل الاجتماعي صورٌ مُفجعة، أبكت الكثيرين. بعد أن تأكدت شرطة لاو باو من أن هذه الصور مُختلقة بواسطة الذكاء الاصطناعي، أصدرت تحذيرًا بشأن نشر صورٍ مُزيفة تُسبب سوء فهم. هذا الفعل لا يُسهم فقط في نشر معلوماتٍ كاذبة، بل يُؤثر أيضًا على سير التحقيق.

وبالمثل، استغلت العديد من حسابات التواصل الاجتماعي الاهتمام العام بحادثة غرق القارب السياحي "بلو باي 58" في خليج ها لونغ، بمقاطعة كوانغ نينه، في 19 يوليو/تموز، والتي أودت بحياة العشرات، ونشرت صورًا وقصصًا مؤثرة عن الضحايا. إلا أن العديد من هذه المحتويات كانت مزيفة، صُممت باستخدام الذكاء الاصطناعي لإثارة مشاعر مستخدمي مواقع التواصل الاجتماعي وجذب تفاعلاتهم. والجدير بالذكر أن انتشار الصور المزيفة ذات المحتوى المتعاطف المبالغ فيه قد يُسبب صدمة نفسية أكبر لعائلات الضحايا.

مع التطور المستمر لتكنولوجيا الذكاء الاصطناعي، لا يستغرق الأمر سوى بضع دقائق باستخدام أوامر بسيطة لإنشاء فيديو بمحتوى جذاب، يُلبي تطلعات المستخدم. وتحظى منصات الذكاء الاصطناعي من الجيل الجديد، مثل KlingAI وVeo 3 وSora... بشعبية كبيرة بين المستخدمين حول العالم، بما في ذلك فيتنام.

علاوةً على ذلك، أثارت تقنية التزييف العميق - وهي مزيج من التعلم العميق والتزييف - قلقًا بالغًا عالميًا، إذ يُمكن استخدامها لإنشاء صور أو أصوات أو مقاطع فيديو واقعية يصعب كشفها. ونتيجةً لذلك، وقعت سلسلة من عمليات الاحتيال المتعلقة بهذه التقنية في فيتنام والعالم.

أشار الفريق نجوين مينه تشينه، نائب الرئيس الدائم للجمعية الوطنية للأمن السيبراني، إلى وجود اتجاه لإساءة استخدام الذكاء الاصطناعي لأغراض غير قانونية. وعلى وجه الخصوص، يستغل مجرمو الإنترنت خدمات الذكاء الاصطناعي كخدمة (الخدمات التي توفر أدوات وتطبيقات الذكاء الاصطناعي - PV) لإنشاء برمجيات خبيثة، وأصوات، ووجوه، ونصوص مزيفة، وغيرها من الأنشطة الاحتيالية، ومهاجمة الشبكات، والتسلل إلى أنظمة البيانات، بل وحتى التسبب في زعزعة الاستقرار الأمني، وتدمير سمعة المؤسسات والشركات والقادة.

وفقًا للسيد تران نغوك آنه، المدير الفني لشركة سايبر بيس المحدودة (CyPeace)، فإن أحد المخاطر التي تواجه مستخدمي الذكاء الاصطناعي هو احتمال تلقيهم معلومات مضللة من هذه الأداة نفسها. علاوة على ذلك، هناك سلسلة من المشاكل الأخرى، مثل الكشف عن المعلومات السرية والبيانات الشخصية...

منع التكنولوجيا من تجاوز الحدود الأخلاقية - الصورة 1

منع التكنولوجيا من تجاوز الحدود الأخلاقية - الصورة 2

تنتشر صور مزيفة على الإنترنت بهدف "إثارة الدموع" لدى المشاهدين، وبالتالي جذب الإعجابات وزيادة التفاعلات (لقطة شاشة)

زيادة مسؤولية المستخدم

قبل أن يتم وضع تدابير تكنولوجية وقانونية للتحكم الصارم في تطوير واستخدام الذكاء الاصطناعي، يحتاج المستخدمون إلى استخدام هذه التكنولوجيا بشكل استباقي ومسؤول.

أشار خبير الأمن السيبراني، فو نغوك سون، رئيس قسم التكنولوجيا في الجمعية الوطنية للأمن السيبراني، إلى أن البشر هم من يستغلون الذكاء الاصطناعي ويستخدمونه، لذا فإن جوانبه الإيجابية والسلبية ترتبط ارتباطًا وثيقًا بالبشر. فإذا كان المستخدمون مؤهلين وطبقوه لأغراض جيدة، ستعزز التكنولوجيا مزاياه الإيجابية. على العكس، إذا افتقر مستخدمو الذكاء الاصطناعي إلى الفهم أو استغلوه لأغراض غير قانونية، فقد يؤدي ذلك إلى عواقب وخيمة. وأضاف خبير الأمن السيبراني: "لاستخدام الذكاء الاصطناعي واستغلاله بفعالية، من الضروري التركيز على بناء فرق العمل والعمليات. لا يعزز الذكاء الاصطناعي قيمته إلا عندما يوضع في أيدي من يتقنه".

مع خطر التزييف العميق - الأداة الرائدة للاحتيال التكنولوجي اليوم، وفي عملية صياغة قانون الاستثمار والأعمال، أكدت وزارة المالية أيضًا على: يجب تنظيم أعمال تقنية التزييف العميق كخط عمل مشروط لمنع إساءة استخدام التكنولوجيا مما يتسبب في تعطيل المعلومات والاحتيال... وفقًا لوزارة المالية، تعد أعمال تقنية التزييف العميق حاليًا أحد المجالات الجديدة، مما يشكل مخاطر معقدة على الأمن والنظام ولكن لا يتم تنظيمها كخط عمل مشروط.

وفقًا للمحامي تران آنه توان (نقابة المحامين في هانوي)، فإن استخدام الذكاء الاصطناعي لإنشاء محتوى دون إذن، وخاصةً إنشاء معلومات كاذبة أو مزيفة أو احتيالية، قد يُخالف أحكام القانون المدني. وبناءً عليه، سيُعرّض المخالفون لعقوبات إدارية أو تعويضات عن الأضرار. وفي حال وجود عواقب وخيمة، قد تُرفع دعوى جنائية. وأوصى المحامي توان قائلًا: "على المستخدمين توخي الحذر عند التعامل مع الذكاء الاصطناعي واستخدامه، وتجنب استغلاله لجذب المشاهدات والإعجابات؛ وتعزيز المسؤولية الشخصية، والالتزام بالقانون عند استخدام الذكاء الاصطناعي، وكذلك المشاركة في بيئة الإنترنت".

أكد الفريق نجوين مينه تشينه أن العنصر الأساسي في التنمية المستدامة للذكاء الاصطناعي هو الموارد البشرية. فمن الباحثين والمهندسين وخبراء الأمن السيبراني إلى المديرين والمستخدمين، يجب أن يكون الجميع مُجهزًا بالكامل بالمعرفة والمهارات والأخلاق والوعي القانوني. ووفقًا للسيد تشينه، فإن هذا لا يقتصر على الفريق الذي يبني ويُشغّل أنظمة الذكاء الاصطناعي، بل هو أيضًا القوة الرئيسية في منع الجرائم عالية التقنية وكشفها ومكافحتها في الفضاء الإلكتروني.

فيتنام ستصدر قانونًا بشأن الذكاء الاصطناعي

في مؤتمر علمي وطني عُقد مؤخرًا حول الذكاء الاصطناعي، صرّح وزير العلوم والتكنولوجيا، نجوين مانه هونغ، بأن الذكاء الاصطناعي يُتيح فرصًا عظيمة، ولكنه يثير أيضًا العديد من التساؤلات المتعلقة بالأخلاقيات والتوظيف والثقة الاجتماعية. لذلك، يجب تطوير الذكاء الاصطناعي بسرعة وأمان وإنسانية.

وفقًا للوزير نجوين مانه هونغ، فإن الذكاء الاصطناعي لا يحل محل البشر، بل يخدمهم، فهو مساعد لهم. الذكاء الاصطناعي أداة قوية، لكن البشر هم صانعو القرار، لذا فليدعم الذكاء الاصطناعي التفكير البشري وقيمه ومسؤولياته، لا أن يحل محله. وأفاد الوزير نجوين مانه هونغ: "ستُصدر وزارة العلوم والتكنولوجيا مدونة أخلاقيات وطنية للذكاء الاصطناعي، تتوافق مع المعايير الدولية، ولكنها مصممة لتلائم الممارسات الفيتنامية، وستُطوّر في الوقت نفسه قانونًا واستراتيجيةً للذكاء الاصطناعي".

المصدر: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm