عند النظر مجددًا، أدركت أنها مجرد صورة ذكاء اصطناعي استخدمتها صفحة فيسبوك لتوضيح منشور عاطفي. والجدير بالذكر أن هذه كانت المرة الثانية التي "كادت" أن تُخدع فيها بالذكاء الاصطناعي. قبل ذلك، أخطأت أيضًا في فهم فيديو "لقاء متقاعدين مع سياح صيفيين" على أنه أشخاص حقيقيون وأحداث حقيقية.
باعتبارها تعمل في مجال الإعلام وتتعرض بانتظام لمحتوى الذكاء الاصطناعي، يتعين على السيدة لينه أن تعترف بأن هذه التكنولوجيا تطورت بسرعة كبيرة وبشكل متطور لدرجة أنه من الصعب التمييز بين الحقيقي والمزيف.
يتفق الخبراء مع هذا الرأي. أدوات مثل Google Veo 3، وKling AI، وDALL·E 3، وMidjourney... تمكّنت من إنشاء صور ومقاطع فيديو واقعية بشكل لا يُصدق.
وأشار السيد دو نهو لام، مدير التدريب في معهد تكنولوجيا البلوكشين والذكاء الاصطناعي ABAII، إلى أنه بفضل التكنولوجيا المتعددة الوسائط ونماذج اللغة المتقدمة، يمكن لهذه الأدوات مزامنة الصور والأصوات وتعبيرات الوجه والحركات الطبيعية، مما يؤدي إلى إنشاء منتجات مقنعة للغاية.
علّق السيد لام قائلاً إن التطورات في مجال الذكاء الاصطناعي تفتح آفاقاً واسعة في مجالات مثل إنشاء المحتوى والإعلان والترفيه والتعليم . إلا أن هذه القدرة على إعادة خلق الواقع تُشكّل أيضاً تحدياتٍ عديدة في مجالات الأخلاقيات والرقابة وأمن المعلومات، إذ يتلاشى الحد الفاصل بين الواقع والافتراضي بشكل متزايد.
حصد منشور السيدة لينه على فيسبوك ما يقرب من 300 ألف تفاعل وأكثر من 16 ألف تعليق. سارع العديد من المستخدمين إلى التهنئة أو التعبير عن مشاعرهم دون أن يدركوا أن هذا مجرد رسم توضيحي للذكاء الاصطناعي. وانتقد بعض الأشخاص "الأكثر وعيًا" "مستخدمي الإنترنت لكونهم ساذجين للغاية" لسماحهم للذكاء الاصطناعي بخداعهم.
في مجموعات ومنتديات فيسبوك، ليس من الصعب مشاهدة مقاطع فيديو الذكاء الاصطناعي التي يُنشئها المستخدمون ويشاركونها. وتحديدًا، حسّن إصدار Google Veo 3 جودة الفيديوهات بشكل ملحوظ، لا سيما تطابق الصوت مع شكل فم الشخصية. إذا لم تُنتبه جيدًا، فقد يُصاب المشاهدون بالارتباك بسهولة.
الحفاظ على العقل السليم في عصر الذكاء الاصطناعي
يصعب تمييز الصور ومقاطع الفيديو المُنتجة بواسطة الذكاء الاصطناعي، مما يُشكل مخاطر كبيرة على المستخدمين، وخاصةً الفئات الضعيفة غير المُلمة بالتكنولوجيا. ووفقًا للسيد فو ثانه ثانغ، مدير الذكاء الاصطناعي (CAIO) في شركة SCS Cyber Security Joint Stock Company، فإن مُجرمي الإنترنت يستخدمون الذكاء الاصطناعي في عمليات الاحتيال (مثل تجاوز الأنظمة البيومترية، وتحقق eKYC...)، وانتحال شخصيات مشاهير لنشر معلومات كاذبة، مما يُسبب بلبلة عامة. وهناك العديد من حالات استغلال مُجرمي التكنولوجيا المتقدمة للذكاء الاصطناعي لإنشاء صور مُزيفة، وانتحال شخصيات أقارب لإجراء مكالمات فيديو بغرض الاحتيال المالي.
وفقًا للسيد ثانغ، تُعدّ الشركات أيضًا أهدافًا محتملة لمجرمي الذكاء الاصطناعي. إذ يمكنهم استخدام تقنية التزييف العميق بالذكاء الاصطناعي لانتحال هوية الموظفين، وتجاوز أنظمة الأمان لفتح سجلات الحضور، وانتحال هوية قادة الأعمال لتشويه سمعتهم وتدميرها.
أشار السيد دو نهو لام، من معهد ABAII، إلى ثلاثة عواقب يُسببها الذكاء الاصطناعي للمستخدمين الأفراد: الاحتيال المالي، وتشويه السمعة، واستغلال المعلومات الشخصية. أما بالنسبة للشركات، فقد خسرت شركة أروب 25 مليون دولار أمريكي بعد خداع موظفي فرعها في هونغ كونغ للمشاركة في اجتماع فيديو مُزيّف وتحويل الأموال بناءً على الطلب.
وهناك خطر آخر خطير بنفس القدر وهو أنه عندما لا يتمكن الناس من التمييز بين الحقيقي والمزيف، فإن ثقة الجمهور في وسائل الإعلام ومصادر الأخبار الرسمية سوف تتآكل.
واستشهد السيد لام بتقرير معهد رويترز لعام 2024 الذي يظهر أن نسبة المستخدمين العالميين الذين يثقون بالأخبار على منصات الوسائط انخفضت إلى أدنى مستوى لها في عقد من الزمان، ويرجع ذلك إلى حد كبير إلى ظهور المحتوى المزيف العميق.
وفقًا للخبير فو ثانه ثانغ، "نحن في عصرٍ يُمكن فيه تزييف جميع المعلومات، ولم يعد يُشكّل خطرًا". لذلك، من الضروري رفع مستوى الوعي وتطبيق تدابير الحماية الشخصية، والتعرّف على المزيد حول الذكاء الاصطناعي للعيش بسلام .
يوصي الخبيران المستخدمين بالتحقق من المعلومات والتحقق من صحتها قبل اتخاذ القرارات؛ وتزويد أنفسهم بالمعرفة اللازمة لكشف المحتوى المزيف؛ والحد من مشاركة المعلومات الشخصية عبر الإنترنت؛ والإبلاغ عن أي أعمال نشر للمحتوى المزيف. وقال السيد لام: "لا يمكن للمستخدمين حماية أنفسهم حقًا والمساهمة في بناء فضاء إلكتروني أكثر أمانًا في العصر الرقمي إلا من خلال اتخاذ إجراءات استباقية واعية" .
المصدر: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html
تعليق (0)