تجربة مرعبة مع صوت ابتزاز الذكاء الاصطناعي

أصيبت جينيفر دي ستيفانو بالذهول عندما سمعت صوتًا يطلب المساعدة، وكان الصوت يشبه تمامًا صوت ابنتها الكبرى بريانا، البالغة من العمر 15 عامًا. وبعد التحقيق، تبين أن الأمر كله مجرد عملية احتيال بمساعدة الذكاء الاصطناعي.

في عصر يوم 20 يناير/كانون الثاني، رنّ هاتف جينيفر ديستيفانو فور خروجها من سيارتها أمام استوديو الرقص حيث كانت ابنتها أوبري تتدرب. لم يكن المتصل معروفًا، وكانت ديستيفانو تنوي عدم الرد.

لكن ابنتها الكبرى، بريانا، البالغة من العمر خمسة عشر عامًا، كانت تتدرب لسباق تزلج. خشي ديستيفانو أن تكون مكالمة طوارئ.

"مرحبًا؟" أجابت عبر مكبر الصوت وهي تغلق سيارتها وتحمل حقيبتها وحقيبة حاسوبها المحمول وتتجه إلى صالة الألعاب الرياضية. فجأة، سمع دي ستيفانو صراخًا وبكاءً.

جينيفر دي ستيفانو وابنتاها. الصورة: NVCC.

"أمي، أنا في ورطة!" صرخ صوت فتاة. "ماذا فعلتِ؟ ماذا يحدث؟" سألت الأم المتصل على الفور.

لحظة الذعر

قال ديستيفانو لشبكة CNN إن الصوت بدا مطابقًا تمامًا لصوت بريانا، من اللكنة وحتى كل شيء. وأضاف: "ظننتُ أنها انزلقت من الجبل، وهذا ما يحدث عند التزلج. لذا شعرتُ بالذعر".

استمر الصراخ، وبدأ صوت رجل عميق يأمر: "اسمعي. ابنتكِ بين يدي. إذا اتصلتِ بالشرطة أو أي شخص، فسأحقنها بالمخدرات. سآخذها إلى المكسيك ولن ترين ابنتكِ مرة أخرى."

أُصيبت ديستيفانو بالشلل على الفور. ثم ركضت إلى صالة الألعاب الرياضية، ترتجف وتصرخ طلبًا للمساعدة. شعرت وكأنها تغرق فجأة.

عاش ديستيفانو لحظةً مرعبةً عندما سمع صوتًا يُشبه صوت بريانا تمامًا يطلب المساعدة عبر الهاتف. تصوير: جينيفر ديستيفانو.

تلت ذلك سلسلة من الأحداث الفوضوية. سارع الخاطفون إلى طلب فدية قدرها مليون دولار ، فقرر ديستيفانو الاتصال بالشرطة. وبعد محاولات عديدة للتواصل مع بريانا، انكشف أمر "الاختطاف".

اتضح أن الأمر كله كان خدعة. اتصلت بريانا المرتبكة بأمها لتخبرها أنها لا تعرف سبب كل هذه الضجة، بينما كل شيء على ما يرام معها.

ولكن بالنسبة إلى ديستيفانو، فلن تنسى أبدًا تلك المكالمة المرعبة التي استمرت أربع دقائق، مع ذلك الصوت الغريب.

تعتقد ديستيفانو أنها كانت ضحية عملية احتيال اختطاف افتراضي عبر الهاتف باستخدام تقنية التزييف العميق. باستخدام هذه التقنية، يُخيف الخاطفون عائلة الضحية بصوت مُعدّل ليُشبه صوتها، ويطالبون بفدية.

الجانب المظلم للذكاء الاصطناعي

وبحسب سيوبان جونسون، المتحدثة باسم مكتب التحقيقات الفيدرالي (FBI)، خسرت العائلات في الولايات المتحدة في المتوسط حوالي 11 ألف دولار لكل مكالمة احتيال.

في المتوسط، تخسر العائلات في الولايات المتحدة حوالي ١١ ألف دولار أمريكي لكل مكالمة احتيال. تصوير: ماثيو فليمنج.

في عام 2022، أظهرت بيانات لجنة التجارة الفيدرالية الأمريكية (FTC) أن الأمريكيين خسروا ما مجموعه 2.6 مليار دولار بسبب مكالمات الاحتيال.

في تسجيل مكالمة ديستيفانو الذي قدمته شرطة سكوتسديل لشبكة CNN، تحاول إحدى الأمهات في استوديو الرقص أن تشرح للمرسل ما يحدث.

دخلت أمٌّ للتوّ وتلقّت اتصالاً هاتفياً من شخصٍ ما. كانت ابنتها. كان هناك خاطفٌ يطلب مليون دولار. لم يسمح لها بالتحدث مع ابنتها، كما قالت المتّصلة.

في الخلفية، يُسمع صوت دي ستيفانو وهو يصرخ: "أريد التحدث مع ابنتي". قرر المرسل على الفور أن المكالمة خدعة.

في الواقع، تُعدّ المكالمات المُزيّفة أمرًا شائعًا في جميع أنحاء الولايات المتحدة. أحيانًا، يتصل المتصلون بكبار السن، مدّعين أن أحفادهم تعرضوا لحادث ويحتاجون إلى مال لإجراء عملية جراحية.

الميزة المشتركة لهذه الطريقة هي أن الخاطفين المزيفين يستخدمون في كثير من الأحيان تسجيلات لصراخ الحشود.

ومع ذلك، يحذر المسؤولون الفيدراليون الأمريكيون من أن عمليات الاحتيال هذه أصبحت أكثر تعقيدًا مع استخدام تقنية التزييف العميق التي تنتحل أصوات الضحايا لكسب ثقة المعارف ثم الاحتيال عليهم للحصول على الأموال.

أصبحت عمليات الاحتيال بالابتزاز أكثر تعقيدًا باستخدام تقنية التزييف العميق التي تحاكي صوت الضحية لكسب ثقة معارفه ثم الاحتيال عليه ماليًا. الصورة: بروتوكول

لقد سمح تطوير برامج الذكاء الاصطناعي الرخيصة وسهلة الوصول للمحتالين باستنساخ الأصوات بحرية وإنشاء محادثات تبدو تمامًا مثل المحادثات الأصلية.

هذا التهديد ليس مجرد افتراض. نرى محتالين يستغلون هذه الأدوات كسلاح. يمكنهم إنشاء نسخة صوتية جيدة نسبيًا بأقل من دقيقة. بالنسبة للبعض، حتى بضع ثوانٍ كافية، كما قال هاني فريد، أستاذ علوم الحاسوب بجامعة كاليفورنيا، بيركلي.

وبمساعدة برنامج الذكاء الاصطناعي، يمكن القيام بتقليد الصوت مقابل 5 دولارات فقط في الشهر، ويمكن لأي شخص الوصول إليه بسهولة، بحسب فريد.

وأصدرت لجنة التجارة الفيدرالية أيضًا تحذيرًا في شهر مارس/آذار من أن المحتالين قد يسرقون ملفات صوتية من مقاطع الفيديو على وسائل التواصل الاجتماعي الخاصة بالضحايا.

استخدام الذكاء الاصطناعي لإدخال الوجوه في الفيديوهات أو الأصوات المزيفة، المعروف باسم "التزييف العميق"، يزداد شيوعًا وخطورة. وهذا خطر حقيقي على الإنترنت.

بالإضافة إلى الفيديوهات الحساسة، قد تُسبب تقنية التزييف العميق أضرارًا جسيمة إذا استُخدمت لأغراض سياسية . أظهر مقطع فيديو لوجه الرئيس الأمريكي السابق باراك أوباما وهو يُشوّه، والذي انتشر على نطاق واسع عام ٢٠١٨، أن الشخصيات السياسية البارزة قد تصبح أيضًا ضحايا.

في عام ٢٠١٩، جاء دور نانسي بيلوسي، رئيسة مجلس النواب الأمريكي، لتصبح ضحية. أظهر مقطع فيديو مُعدّل بيلوسي وهي تتحدث وهي في حالة سُكر، وكان كلامها غير واضح.

لا تُستخدم تقنية Deepfakes فقط لدمج مقاطع الفيديو الإباحية، بل تثير أيضًا مخاوف بشأن الأخبار المزيفة قبل لحظات مهمة مثل الانتخابات الرئاسية الأمريكية في أواخر عام 2020. الصورة: Cnet.

في أواخر عام ٢٠١٩، أقرّت ولاية كاليفورنيا الأمريكية قانونًا يُجرّم إنتاج أو مشاركة مقاطع فيديو مُزيّفة. ينصّ القانون تحديدًا على أنّ مقاطع الفيديو المُعدّلة التي تحتوي على صور أو مقاطع فيديو أو أصوات سياسيين خلال ٦٠ يومًا من الانتخابات تُعدّ غير قانونية.

في عام 2019، قال باحثان من الأمم المتحدة، جوزيف بولوك وميغيل لوينغو أوروز، إن نموذج الذكاء الاصطناعي الذي طوراه، والذي تم تدريبه على نصوص ويكيبيديا وأكثر من 7000 خطاب من الجمعية العامة، يمكنه بسهولة تزييف خطابات زعماء العالم.

ويقول الفريق إنهم لم يحتاجوا سوى إلى تغذية الذكاء الاصطناعي ببضع كلمات لتوليد نص متماسك و"عالي الجودة".

على سبيل المثال، عندما أعطى الباحثون عنوان "الأمين العام يدين بشدة الهجمات الإرهابية المميتة في مقديشو"، تمكنت الذكاء الاصطناعي من توليد خطاب يعبر عن الدعم لقرار الأمم المتحدة.

رابط المصدر: https://zingnews.vn/cong-nghe.html/trai-nghiem-kinh-hoang-voi-giong-noi-tong-tien-bang-ai-post1427622.html