عند النظر إليها مجددًا، أدركت أنها مجرد صورة ذكاء اصطناعي استخدمتها صفحة فيسبوك لتوضيح منشور عاطفي. يُذكر أن هذه كانت المرة الثانية التي "كادت" أن تُخدع فيها بالذكاء الاصطناعي. قبل ذلك، أخطأت أيضًا في فهم فيديو "لقاء متقاعدين مع سياح صيفيين" على أنه أشخاص حقيقيون وأحداث حقيقية.

باعتبارها تعمل في مجال الإعلام، وتتعرض بشكل منتظم لمحتوى الذكاء الاصطناعي، كان على السيدة لينه أن تعترف بأن هذه التكنولوجيا تطورت بسرعة كبيرة وبشكل متطور لدرجة أنه من الصعب التمييز بين الحقيقي والمزيف.

لقطة شاشة 1749203761184.png
الصورة الفيروسية على فيسبوك تم إنشاؤها بواسطة الذكاء الاصطناعي. لقطة شاشة.

يتفق الخبراء أيضًا مع هذا الرأي. أدوات مثل Google Veo 3، وKling AI، وDALL·E 3، وMidjourney... أصبحت قادرة على إنشاء صور ومقاطع فيديو واقعية بشكل لا يُصدق.

وأشار السيد دو نهو لام، مدير التدريب في معهد تكنولوجيا البلوكشين والذكاء الاصطناعي ABAII، إلى أنه بفضل التكنولوجيا المتعددة الوسائط ونماذج اللغة المتقدمة، يمكن لهذه الأدوات مزامنة الصور والأصوات وتعبيرات الوجه والحركات الطبيعية، مما يؤدي إلى إنشاء منتجات مقنعة للغاية.

W-Photo by Mr. Do Nhu Lam.jpg
قال السيد دو نهو لام، مدير التدريب في معهد تكنولوجيا البلوك تشين والذكاء الاصطناعي (ABAII)، إن تقنيات الذكاء الاصطناعي المتقدمة تُقدم منتجاتٍ مُقنعة للغاية. الصورة: NVCC

علق السيد لام قائلاً إن تطورات الذكاء الاصطناعي تفتح آفاقاً واسعة في مجالات مثل إنشاء المحتوى والإعلان والترفيه والتعليم . إلا أن هذه القدرة على إعادة الإنتاج "الواقعية" تُشكل أيضاً تحديات عديدة في مجالات الأخلاقيات والتحكم وأمن المعلومات، إذ يتلاشى الفرق بين الواقع والافتراضي بشكل متزايد.

حصد منشور السيدة لينه على فيسبوك ما يقرب من 300 ألف تفاعل وأكثر من 16 ألف تعليق. سارع العديد من المستخدمين إلى التهنئة أو التعبير عن مشاعرهم دون أن يدركوا أن هذا مجرد رسم توضيحي للذكاء الاصطناعي. وانتقد بعض الأشخاص "الأكثر وعيًا" "مستخدمي الإنترنت لكونهم ساذجين للغاية" لدرجة أنهم لم يسمحوا للذكاء الاصطناعي بخداعهم.

في مجموعات ومنتديات فيسبوك، ليس من الصعب مشاهدة مقاطع فيديو الذكاء الاصطناعي التي يُنشئها المستخدمون ويشاركونها. على وجه الخصوص، حسّن إصدار Google Veo 3 جودة الفيديوهات بشكل ملحوظ، وخاصةً الصوت الذي يطابق شكل فم الشخصية. إذا لم تُنتبه وتُشاهد بعناية، فقد يُصاب المشاهدون بالارتباك بسهولة.

الحفاظ على العقل السليم في عصر الذكاء الاصطناعي

يصعب تمييز الصور ومقاطع الفيديو المُنتجة بواسطة الذكاء الاصطناعي، مما يُشكل مخاطر كبيرة على المستخدمين، وخاصةً الفئات الضعيفة غير المُلمة بالتكنولوجيا. ووفقًا للسيد فو ثانه ثانغ، مدير الذكاء الاصطناعي (CAIO) في شركة SCS للأمن السيبراني، يُستخدم الذكاء الاصطناعي من قِبل مُجرمي الإنترنت في عمليات الاحتيال (مثل تجاوز الأنظمة البيومترية، والتحقق الإلكتروني من هوية العميل...)، وانتحال شخصيات مشاهير لنشر معلومات كاذبة، مما يُسبب بلبلة عامة. وهناك العديد من حالات استغلال مجرمي التكنولوجيا المتقدمة للذكاء الاصطناعي لإنشاء صور مُزيفة، وانتحال شخصيات أقارب لإجراء مكالمات فيديو بغرض الاحتيال المالي.

السيد فو ثانه ثانغ.jpg
قال السيد فو ثانه ثانغ، مدير الذكاء الاصطناعي (CAIO) في شركة SCS للأمن السيبراني المساهمة، إننا دخلنا عصرًا يُمكن فيه تزييف كل شيء. الصورة: NVCC

وفقًا للسيد ثانغ، تُعدّ الشركات أيضًا أهدافًا محتملة لمجرمي الذكاء الاصطناعي. إذ يمكنهم استخدام تقنية التزييف العميق بالذكاء الاصطناعي لانتحال هوية الموظفين، وتجاوز أنظمة الأمان لفتح سجلات الحضور، وانتحال هوية قادة الأعمال لتشويه سمعتهم وتدميرها.

أشار السيد دو نهو لام، من معهد ABAII، إلى ثلاثة عواقب يُسببها الذكاء الاصطناعي للمستخدمين الأفراد: الاحتيال المالي، وتشويه السمعة، واستغلال المعلومات الشخصية. أما بالنسبة للشركات، فقد خسرت شركة أروب 25 مليون دولار أمريكي بعد خداع موظفي فرعها في هونغ كونغ للمشاركة في اجتماع فيديو مُزيّف وتحويل الأموال بناءً على الطلب.

كل ما تحتاج إلى معرفته عن Veo 3، أداة الذكاء الاصطناعي الحالية لإنشاء مقاطع الفيديو الفيروسية أحدث نموذج ذكاء اصطناعي لإنشاء مقاطع الفيديو من Google - Veo 3 - يثير الإعجاب بقدرته على إنشاء صوت متزامن بشكل واقعي مع الصور.

وهناك خطر آخر خطير بنفس القدر وهو أنه عندما لا يتمكن الناس من التمييز بين الحقيقي والمزيف، فإن ثقة الجمهور في وسائل الإعلام ومصادر الأخبار الرسمية سوف تتآكل.

واستشهد السيد لام بتقرير معهد رويترز لعام 2024 الذي يظهر أن نسبة المستخدمين العالميين الذين يثقون بالأخبار على منصات الوسائط قد انخفضت إلى أدنى مستوى لها في عقد من الزمان، ويرجع ذلك إلى حد كبير إلى ظهور المحتوى المزيف العميق.

يقول الخبير فو ثانه ثانغ: "نحن في عصرٍ يُمكن فيه تزييف جميع المعلومات، ولم يعد يُشكّل خطرًا". لذلك، من الضروري رفع مستوى الوعي وتطبيق تدابير الحماية الشخصية، والتعرف على الذكاء الاصطناعي لنعيش بسلام .

يوصي الخبيران المستخدمين بالتحقق من المعلومات والتحقق من صحتها قبل اتخاذ القرارات؛ وتزويد أنفسهم بالمعرفة اللازمة لكشف المحتوى المزيف؛ والحد من مشاركة المعلومات الشخصية عبر الإنترنت؛ والإبلاغ عن أي أعمال نشر للمحتوى المزيف. وقال السيد لام: "لا يمكن للمستخدمين حماية أنفسهم حقًا والمساهمة في بناء فضاء إلكتروني أكثر أمانًا في العصر الرقمي إلا من خلال اتخاذ إجراءات استباقية واعية" .

قلقًا بشأن انقراض البشرية بسبب الذكاء الاصطناعي، قام "العراب" يوشوا بينجيو للتو بشيء ما . أسس "العراب" للذكاء الاصطناعي يوشوا بينجيو للتو منظمة غير ربحية بهدف إنشاء أنظمة ذكاء اصطناعي آمنة، بدلاً من إظهار شخصيات خطيرة للبشر.

المصدر: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html