صور مجمعة مزيفة، خطر حقيقي

08:22، 12/09/2023

تخلق تقنيات الذكاء الاصطناعي مخاطر مثيرة للقلق في المجتمع الاجتماعي من خلال تقنيات الخداع المتطورة بشكل متزايد.

ومن بينها تقنية "الديب فيك" التي تم تطويرها مؤخرا والتي تجذب العديد من المستخدمين وخاصة النساء لدمج صورهم مع صور ملكات الجمال وعارضات الأزياء .. لتبدو حقيقية، من دون أن يدركوا أن وراء ذلك مخاطر لا يمكن التنبؤ بها.

مؤخرًا، نشر أحد معارفي رابطًا لفيديو بعنوان "فيلم فاضح" لنجمة مشهورة. عند الضغط على الرابط، فوجئ الناس برؤية وجه ممثلة شابة ترتدي ملابس مثيرة وتمارس علاقة حميمة مع رجل. صرّح خبير تقني بأن هذا ليس فيلمًا حقيقيًا، بل مجرد عملية احتيال تقني، باستخدام تقنية "التزييف العميق" لخلق صورة لشخص آخر.

صورة مُولّدة بالذكاء الاصطناعي لمستخدم. صورة من الإنترنت.

أفاد هذا الخبير أيضًا أنه خلال الأيام العشرة الماضية، برز توجه على منصات التواصل الاجتماعي لإرسال صور بورتريه إلى برامج الذكاء الاصطناعي، للحصول على صور "جميلة وواقعية للغاية". يُعجب الكثير من الشباب بهذا الأمر، حتى أنهم يُرشدون بعضهم البعض لاختيار البرنامج الأذكى الذي يُمكنه دمج صور أكثر جمالًا، مثل الممثلين المشهورين وعارضات الأزياء... كما تتيح بعض برامج التطبيقات دمج الصور في مقاطع فيديو. وحذّر الخبير قائلاً: "مع ذلك، لا أحد يستطيع التنبؤ بالخطر الكامن وراء هذه اللعبة. ببساطة، سترى يومًا ما صورة لنفسك في جسد مثير وعارٍ".

بتتبع المعلومات، يتضح أن تقنية "التزييف العميق" طُوّرت استنادًا إلى منصة التعلم الآلي، باستخدام شفرة جوجل مفتوحة المصدر. مصطلح "التزييف العميق" هو مزيج من كلمتي "التعلم العميق" و"التزييف"، ويعني تعلم إنشاء عمليات محاكاة. تقوم هذه التقنية بمسح مقطع فيديو وصور مستخدم معين، ثم دمجها مع مقاطع فيديو أو صور منفصلة أخرى لإنشاء صورة أو مقطع. بفضل استخدام ميزات الذكاء الاصطناعي الذكية، يمكن لهذه التقنية استبدال تفاصيل الهوية الأساسية على وجه الإنسان مثل العينين والفم والأنف، إلى جانب سرعة حركة الوجه وصوت الصوت لإنشاء نسخة شبه حقيقية. كلما زادت بيانات الصورة الأصلية في هذه العملية، كان من الأسهل على ميزة الذكاء الاصطناعي التعلم وإنشاء وجه وصورة مزيفة مطابقة لشخص حقيقي.

مع التطور السريع للتكنولوجيا، ينتشر "التزييف العميق" بسرعة في العديد من مجالات الحياة، بدءًا من مساعدة شخص ما على اختيار تسريحة شعر مناسبة، أو محاولة تصميم زي معين. لذا، يُعدّ استخدام هذه التقنية إيجابيًا للغاية ويحظى بتقدير العديد من المستخدمين. ومع ذلك، فإن الجانب الآخر من المشكلة هو إمكانية استخدامها لأغراض خبيثة من قِبَل المجرمين.

وبناءً على ذلك، فإن المستخدمين الذين يقدمون صورهم الشخصية أو مقاطع الفيديو الخاصة بهم إلى برامج تحرير الصور عبر الإنترنت سيصبحون بسهولة ضحايا للترفيه الرخيص، مثل تحرير الصور العارية، والتحفيز الجنسي، وما إلى ذلك. قد يقوم محررو الصور بتسلية أنفسهم فقط، ولكن يمكنهم أيضًا استخدام هذه الصور المزيفة لمهاجمة الآخرين، والسخرية منهم، وتشويه سمعتهم أو ابتزازهم، وإهانة شرف الآخرين، وحتى إرباك وتدمير علاقات الأشخاص المعنيين.

ثانيًا، يمكن للمجرمين استخدام الذكاء الاصطناعي لإنشاء شخصيات وهمية، وارتكاب عمليات احتيال عبر الإنترنت، مثل الاتصال بالأقارب والأصدقاء لاقتراض المال، وسرقة المعلومات لأغراض خبيثة. بل يمكن للمجرمين انتحال صفة المستخدمين لتسجيل الدخول إلى تطبيقات التكنولوجيا، والشراء والبيع عبر الإنترنت، باستخدام البطاقات المصرفية... للاستيلاء على الأصول. ومن ثم، يمكن لعصابات الاحتيال والابتزاز والإرهاب استخدام حسابات افتراضية بشخصيات وهمية لتنفيذ أعمال خبيثة.

أدرج مجتمع التكنولوجيا مؤقتًا العديد من أدوات البرامج والمواقع الإلكترونية الشائعة التي تستخدم تقنية "التزييف العميق"، مثل reface وzao وavatarify وdeepfakes web β وmyheritage وwombo... ولكن هذه القائمة قد تكون أطول وأكثر تنوعًا نظرًا للتطور السريع للتكنولوجيا. لذلك، يُحذر مجتمع الأمن السيبراني المستخدمين من توخي الحذر الشديد والحذر من عمليات الاحتيال باستخدام تقنية التزييف العميق. إن لم يكونوا حذرين، فسيدرك المستخدمون فجأةً يومًا ما أن أحدهم ينتحل شخصيتهم لسحب أموال من البنك، أو... للدخول إلى الإنترنت للإدلاء بتصريحات سياسية إرهابية حول قضية معينة.

على الفتيات والفتيان الذين يستعرضون صورهم على الإنترنت بسعادة، ويقلدونها، ويسجلون لحظات لا تُنسى، أن يعيدوا النظر في هذا الأمر. لأنه لا يوجد شيء مجاني وآمن تمامًا للمستخدمين، وأي تصرفات غير مسؤولة قد تؤدي إلى عواقب وخيمة لاحقًا. هناك مقولة شائعة في مجتمع الإنترنت: "استمتع، لكن لا تُفرط في المرح"، ولعل من المناسب التأكيد على هذا التحذير!

ثوي بات نهي

مصدر