عند النظر مجددًا، أدركت أنها مجرد صورة ذكاء اصطناعي استخدمتها صفحة فيسبوك لتوضيح منشور عاطفي. والجدير بالذكر أن هذه كانت المرة الثانية التي "كادت" أن تُخدع فيها بالذكاء الاصطناعي. قبل ذلك، أخطأت أيضًا في فهم فيديو "لقاء متقاعدين بسياح صيفيين" على أنه أشخاص حقيقيون وأحداث حقيقية.

باعتبارها تعمل في صناعة الإعلام وتتعرض بانتظام لمحتوى الذكاء الاصطناعي، يتعين على السيدة لينه أن تعترف بأن هذه التكنولوجيا تطورت بسرعة كبيرة وبشكل متطور لدرجة أنه من الصعب التمييز بين الحقيقي والمزيف.

لقطة شاشة 1749203761184.png
الصورة الفيروسية على فيسبوك تم إنشاؤها بواسطة الذكاء الاصطناعي. لقطة شاشة.

يتفق الخبراء مع هذا الرأي. أدوات مثل Google Veo 3، وKling AI، وDALL·E 3، وMidjourney... تمكّنت من إنشاء صور ومقاطع فيديو واقعية بشكل لا يُصدق.

وأشار السيد دو نهو لام، مدير التدريب في معهد تكنولوجيا البلوكشين والذكاء الاصطناعي ABAII، إلى أنه بفضل التكنولوجيا المتعددة الوسائط ونماذج اللغة المتقدمة، يمكن لهذه الأدوات مزامنة الصور والأصوات وتعبيرات الوجه والحركات الطبيعية، مما يؤدي إلى إنشاء منتجات مقنعة للغاية.

صورة فوتوغرافية للسيد دو نهو لام.jpg
قال السيد دو نهو لام، مدير التدريب في معهد تكنولوجيا البلوك تشين والذكاء الاصطناعي (ABAII)، إن تقنيات الذكاء الاصطناعي المتقدمة تُقدم منتجاتٍ مُقنعة للغاية. الصورة: NVCC

علق السيد لام قائلاً إن التطورات في مجال الذكاء الاصطناعي تفتح آفاقاً واسعة في مجالات مثل إنشاء المحتوى والإعلان والترفيه والتعليم . إلا أن هذه القدرة على إعادة خلق الواقع تُشكل أيضاً تحديات عديدة في مجالات الأخلاقيات والرقابة وأمن المعلومات، إذ يتلاشى الحد الفاصل بين الواقع والافتراضي بشكل متزايد.

حصد منشور السيدة لينه على فيسبوك ما يقرب من 300 ألف تفاعل وأكثر من 16 ألف تعليق. سارع العديد من المستخدمين إلى التهنئة أو التعبير عن مشاعرهم دون أن يدركوا أن هذا مجرد رسم توضيحي للذكاء الاصطناعي. وانتقد بعض الأشخاص "الأكثر وعيًا" "مستخدمي الإنترنت لكونهم ساذجين للغاية" لسماحهم للذكاء الاصطناعي بخداعهم.

في مجموعات ومنتديات فيسبوك، ليس من الصعب مشاهدة مقاطع فيديو الذكاء الاصطناعي التي يُنشئها المستخدمون ويشاركونها. على وجه الخصوص، حسّن إصدار Google Veo 3 جودة الفيديوهات بشكل ملحوظ، لا سيما تطابق الصوت مع شكل فم الشخصية. إذا لم تُنتبه جيدًا، فقد يُصاب المشاهدون بالارتباك بسهولة.

الحفاظ على العقل السليم في عصر الذكاء الاصطناعي

يصعب تمييز الصور ومقاطع الفيديو المُنتجة بواسطة الذكاء الاصطناعي، مما يُشكل مخاطر كبيرة على المستخدمين، وخاصةً الفئات الضعيفة غير المُلمة بالتكنولوجيا. ووفقًا للسيد فو ثانه ثانغ، مدير الذكاء الاصطناعي (CAIO) في شركة SCS للأمن السيبراني، يُستخدم الذكاء الاصطناعي من قِبل مُجرمي الإنترنت في عمليات الاحتيال (مثل تجاوز الأنظمة البيومترية، والتحقق الإلكتروني من هوية العميل...)، وانتحال شخصيات مشاهير لنشر معلومات كاذبة، مما يُسبب بلبلة عامة. وهناك العديد من حالات استغلال مجرمي التكنولوجيا المتقدمة للذكاء الاصطناعي لإنشاء صور مُزيفة، وانتحال شخصيات أقارب لإجراء مكالمات فيديو بغرض الاحتيال المالي.

السيد فو ثانه ثانغ.jpg
قال السيد فو ثانه ثانغ، مدير الذكاء الاصطناعي (CAIO) في شركة SCS للأمن السيبراني المساهمة، إننا دخلنا عصرًا يُمكن فيه تزييف كل شيء. الصورة: NVCC

وفقًا للسيد ثانغ، تُعدّ الشركات أيضًا أهدافًا محتملة لمجرمي الذكاء الاصطناعي. إذ يمكنهم استخدام تقنية التزييف العميق بالذكاء الاصطناعي لانتحال هوية الموظفين، وتجاوز أنظمة الأمان لفتح سجلات الحضور، وانتحال هوية قادة الأعمال لتشويه سمعتهم وتدميرها.

أشار السيد دو نهو لام، من معهد ABAII، إلى ثلاث عواقب يُسببها الذكاء الاصطناعي للمستخدمين الأفراد: الاحتيال المالي، وتشويه السمعة، واستغلال المعلومات الشخصية. أما بالنسبة للشركات، فقد خسرت شركة أروب 25 مليون دولار أمريكي بعد خداع موظفي فرعها في هونغ كونغ للمشاركة في اجتماع فيديو مُزيّف وتحويل الأموال بناءً على الطلب.

كل ما تحتاج إلى معرفته عن Veo 3، أداة الذكاء الاصطناعي الحالية لإنشاء مقاطع الفيديو الفيروسية أحدث نموذج ذكاء اصطناعي لإنشاء مقاطع الفيديو من Google - Veo 3 - يثير الإعجاب بقدرته على إنشاء صوت واقعي يتزامن مع الصور.

وهناك خطر آخر خطير بنفس القدر وهو أنه عندما لا يتمكن الناس من التمييز بين الحقيقي والمزيف، فإن ثقة الجمهور في وسائل الإعلام ومصادر الأخبار الرسمية سوف تتآكل.

واستشهد السيد لام بتقرير معهد رويترز لعام 2024 الذي يظهر أن نسبة المستخدمين العالميين الذين يثقون في الأخبار على منصات الوسائط انخفضت إلى أدنى مستوى لها في عقد من الزمان، ويرجع ذلك إلى حد كبير إلى ظهور المحتوى المزيف العميق.

وفقًا للخبير فو ثانه ثانغ، "نحن في عصرٍ يُمكن فيه تزييف جميع المعلومات، ولم يعد يُشكّل خطرًا". لذلك، من الضروري رفع مستوى الوعي وتطبيق تدابير الحماية الشخصية، والتعرّف على المزيد حول الذكاء الاصطناعي للعيش بسلام .

يوصي الخبيران المستخدمين بالتحقق من المعلومات والتحقق من صحتها قبل اتخاذ القرارات؛ وتزويد أنفسهم بالمعرفة اللازمة لكشف المحتوى المزيف؛ والحد من مشاركة المعلومات الشخصية عبر الإنترنت؛ والإبلاغ عن أي أعمال لنشر المحتوى المزيف. وقال السيد لام: "لا يمكن للمستخدمين حماية أنفسهم حقًا والمساهمة في بناء فضاء إلكتروني أكثر أمانًا في العصر الرقمي إلا من خلال اتخاذ إجراءات استباقية واعية" .

خوفًا من انقراض البشرية بسبب الذكاء الاصطناعي، قام "العراب" يوشوا بينجيو للتو بتأسيس منظمة غير ربحية بهدف إنشاء أنظمة ذكاء اصطناعي آمنة، بدلاً من إظهار شخصيات خطيرة للبشر.

المصدر: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html