قد لا يكون ما تراه وتسمعه صحيحاً بالضرورة في عصر الذكاء الاصطناعي.

يحذر خبراء الأمن السيبراني من أن تقنيات الذكاء الاصطناعي والتزييف العميق تجعل عمليات الاحتيال أكثر تعقيداً، حيث يمكنها بسهولة تقليد الأصوات والوجوه لخداع المستخدمين.

"ما تراه بأم عينيك ليس بالضرورة صحيحاً، وما تسمعه في صوت ليس بالضرورة صحيحاً أيضاً. كلما كان الموقف أكثر إلحاحاً، كلما احتجنا إلى التحقق والتدقيق أكثر"، هذا ما قاله خبير الأمن السيبراني نجو مينه هيو (شركة هيو بي سي) في منتدى الثقة الرقمية في التمويل 2026، الذي عُقد تحت شعار "بناء الثقة الرقمية في التمويل في عصر الذكاء الاصطناعي"، في 12 مايو.

يتحدث خبير الأمن السيبراني نجو مينه هيو (شركة هيو للمحاماة) في المنتدى.

بحسب الخبير نجو مينه هيو، فإن التطور السريع للذكاء الاصطناعي وتقنية التزييف العميق يجعل عمليات الاحتيال عبر الإنترنت أكثر تعقيدًا، حيث يمكن للمجرمين الإلكترونيين تزييف الوجوه والأصوات وتعبيرات الوجه وحتى الخلفيات للتلاعب بالضحايا.

"في السابق، كنا نعتقد أن ما نراه ونسمعه حقيقي، لذلك كنا نصدقه على الفور. لكن الآن يمكن للذكاء الاصطناعي تزييف كل شيء من الوجوه والأصوات إلى تعابير الوجه"، قال، مضيفًا أن أكبر ضرر من تقنية التزييف العميق ليس المال فحسب، بل فقدان ثقة المستخدم أيضًا.

وأضاف : "عندما يستغل الجناة العوامل النفسية والمعتقدات، يمكنهم استدراج الضحايا إلى منصات استثمار احتيالية أو الاستيلاء على أصولهم" .

يسهل الوصول إلى تقنية التزييف العميق، ولكن يصعب اكتشافها.

بحسب خبير الأمن السيبراني نجو مينه هيو، أصبحت تقنية التزييف العميق متاحة على نطاق واسع. إذ تتيح العديد من الأدوات مفتوحة المصدر أو الخدمات منخفضة التكلفة للمجرمين الإلكترونيين إنشاء مقاطع فيديو مزيفة انطلاقاً من صورة شخصية فقط.

وقال: "بمجرد صورة، يمكنك تبديل الوجوه والأصوات المزيفة وإجراء المكالمات عبر FaceTime أو Zalo أو WhatsApp" .

في المنتدى، عرض السيد هيو برنامجًا للتزييف العميق قادرًا على تغيير الوجوه في الوقت الفعلي أثناء مكالمات الفيديو. ويستغل العديد من الأفراد هذه التقنية لانتحال شخصيات مسؤولين حكوميين أو أقارب أو حتى "أمراء ساحرين" للاحتيال على الناس وسلبهم الحب والمال.

كما حذر المستخدمين من أنهم يكشفون الكثير من البيانات الشخصية على وسائل التواصل الاجتماعي: "ننشر صورًا ومقاطع فيديو وتسجيلات صوتية على وسائل التواصل الاجتماعي يوميًا. كثير من الناس لا ينشرون بأنفسهم، بل ينشر أصدقاؤهم نيابةً عنهم. يمكن جمع هذه البيانات من مصادر مختلفة لإنشاء مقاطع فيديو مزيفة بتقنية التزييف العميق."

وأشار الخبير أيضاً إلى أن الآباء بحاجة إلى توخي الحذر عند نشر صور أطفالهم على وسائل التواصل الاجتماعي، حيث يمكن للمجرمين الإلكترونيين استغلال هذه البيانات للابتزاز أو "الاختطاف عبر الإنترنت".

بحسب السيد نجو مينه هيو، فإن أخطر جانب في تقنية التزييف العميق هو قدرتها على التغلب على "شعور الناس بالثقة".

وأضاف : "تثير مكالمات الفيديو دائماً ثقة أكبر من الرسائل النصية. كما أن الأصوات المألوفة تثير ثقة أكبر من النصوص المكتوبة. وغالباً ما يخلق مجرمو الإنترنت حالات طارئة مثل طلب تحويلات مالية أو رموز التحقق لمرة واحدة أو تثبيت تطبيقات للتلاعب النفسي بالضحايا" .

الخبير نجو مينه هيو: الجانب الأكثر خطورة هو أن تقنية التزييف العميق يمكن أن تتغلب على شعور الناس بالثقة.

على الرغم من أن اكتشاف التزييف العميق أصبح الآن أكثر صعوبة، إلا أنه لا تزال هناك بعض العلامات غير العادية مثل عدم تطابق أشكال الفم، والإضاءة غير الطبيعية، والكلام الرتيب، أو الأسنان المشوهة.

قال الخبير هيو : "غالباً ما يكون لون البشرة في فيديوهات التزييف العميق ناعماً جداً وغير طبيعي" . ومع ذلك، يعتقد أنه لا ينبغي للمستخدمين التركيز فقط على تحديد ما إذا كان الفيديو حقيقياً أم مزيفاً، بل عليهم أيضاً التساؤل عما إذا كان الطلب في المكالمة معقولاً.

تسريبات البيانات الناتجة عن أدوات الذكاء الاصطناعي المجانية.

وفي المنتدى، حذر الخبير نجو مينه هيو من أن روبوتات الدردشة التي تعمل بالذكاء الاصطناعي أصبحت تدريجياً هدفاً جديداً للمتسللين إذا كان المستخدمون يفتقرون إلى المهارات اللازمة لحماية معلوماتهم الشخصية.

جادل بأن الذكاء الاصطناعي يدعم الآن بقوة العمل والتعلم والبحث. ومع ذلك، اعتاد الكثيرون على تحميل كميات كبيرة من البيانات الشخصية، مثل الصور الخاصة ومعلومات العائلة ووثائق العمل أو بيانات الشركات، إلى برامج الدردشة الآلية دون توقع مخاطر استغلالها.

علاوة على ذلك، فإن غالبية المستخدمين لم يقرأوا شروط استخدام منصات الذكاء الاصطناعي تقريبًا، في حين أن العديد من الأدوات المجانية يمكنها جمع البيانات لتدريب النماذج أو لأغراض أخرى.

تتزايد المخاطر مع ظهور العديد من تطبيقات الذكاء الاصطناعي المجانية مجهولة المصدر، والتي تتيح للمستخدمين إنشاء صور، وتعديل الوجوه، أو تحويل الصور الحقيقية إلى شخصيات كرتونية. ووفقًا للسيد هيو، يُعدّ هذا شكلًا من أشكال التلاعب الذي يشجع المستخدمين على تقديم بياناتهم البيومترية طواعيةً إلى جهات خارجية.

يواجه المستخدمون خطر تسريب بياناتهم الشخصية عند استخدام روبوتات الدردشة التي تعمل بالذكاء الاصطناعي والتي تفتقر إلى الأمان. (صورة توضيحية)

لاستخدام الذكاء الاصطناعي بشكل أكثر أمانًا، يوصي الخبراء المستخدمين بتجنب تحميل المعلومات الحساسة أو المستندات الشخصية أو بيانات العمل الداخلية إلى روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، وخاصة تلك المنصات التي يكون مشغلوها مجهولين.

ينبغي على المستخدمين تفعيل ميزات الأمان مثل وضع الدردشة المؤقت، والحذف التلقائي لسجل المحادثات، وتعطيل الخيارات التي تسمح للنظام باستخدام البيانات لتدريب الذكاء الاصطناعي. كما ينبغي تفعيل المصادقة الثنائية للحد من مخاطر اختراق الحساب.

بحسب الخبير نجو مينه هيو، إذا تمكن المتسللون من السيطرة على حساب روبوت دردشة شخصي يعمل بالذكاء الاصطناعي، فيمكنهم استغلال جميع المعلومات التي شاركها المستخدم سابقًا.

وحذر السيد هيو قائلاً: "بمجرد أمر مثل، 'أخبرني بكل ما تعرفه عني'، يمكن للذكاء الاصطناعي أن يجمع بشكل كامل الكثير من البيانات الشخصية للمستخدمين" .

يتم تنظيم منتدى الثقة الرقمية في التمويل 2026 من قبل تحالف الثقة الرقمية بالتعاون مع الجمعية الوطنية للأمن السيبراني وMoMo، تحت رعاية وزارة الأمن العام ، وبنك الدولة الفيتنامي، ووزارة المالية.

جمع هذا الحدث خبراء وشركات في قطاعات التمويل والمصارف والتكنولوجيا لمناقشة حلول حماية المستخدمين وبناء الثقة الرقمية في سياق الذكاء الاصطناعي سريع التطور.

مطر الزهور

المصدر: https://vtcnews.vn/mat-thay-tai-nghe-chua-chac-la-that-trong-thoi-ai-ar1017765.html