يساعد الذكاء الاصطناعي المتطور في اكتشاف التشوهات

في مؤتمر Google I/O الأخير، أطلقت Google إصدار Gemini 1.5 - وهو نموذج ذكاء اصطناعي (AI) يحتوي على العديد من الميزات الجديدة، بما في ذلك القدرة على تحليل التعليمات البرمجية والنصوص والتسجيلات الصوتية ومقاطع الفيديو بمدة أطول من الإصدار السابق.

كشف الكلمات المشبوهة

على وجه الخصوص، من المتوقع أن يُدمج Gemini 1.5 Pro في Gmail وGoogle Docs قريبًا، ليصبح أداة متعددة الاستخدامات في Workspace، مما يُساعد المستخدمين على جمع أي معلومات من Drive. ومن نماذج الذكاء الاصطناعي الأخرى Gemini Live، الذي يُساعد المستخدمين على التفاعل مع الهواتف الذكية بأصوات طبيعية. في هذا الحدث، لفتت جوجل الأنظار بطرحها نموذج ذكاء اصطناعي يُسمى Gemini Nano للهواتف الذكية التي تعمل بنظام التشغيل Android، مع ميزة اكتشاف الكلمات المشبوهة في المحادثات لمساعدة المستخدمين على التنبه لمكالمات الاحتيال. حاليًا، تم دمج Gemini Nano في هواتف Pixel 8 Pro وسلسلة هواتف Galaxy S24.

يتوقع المستخدمون، من خلال تبادل الآراء على منصات التواصل الاجتماعي، أن يزداد استخدام تطبيق جيميني نانو تدريجيًا على هواتف أندرويد في السوق. ومع ذلك، أعرب البعض عن قلقهم من إمكانية كشف بيانات المكالمات في حال منح جوجل الأذونات اللازمة. وفي هذا الصدد، أكدت جوجل أن بيانات المكالمات محمية، وتُخزّن فقط على هاتف المستخدم. ويمكن للمستخدمين تخصيص الميزة لتفعيل/تعطيل تحذير المكالمات الاحتيالية. يعمل جيميني نانو بشكل مستقل، ولا يتصل بالإنترنت، ولا يمكن لجوجل أو أي جهة خارجية الوصول إليه.

في السابق، أعلنت OpenAI أيضًا عن نموذج ذكاء اصطناعي جديد يسمى GPT-4o، والذي يزيد من قوة ChatGPT بمقدار 5 مرات. وبناءً على ذلك، من خلال تحسين الخوارزميات وطرق التدريب، سيوفر GPT-4o إجابات أكثر دقة ويحافظ على اتساق عالٍ في المحادثات الطويلة. تقليل الأخطاء الشائعة وتحسين القدرة على فهم السياق، مما يساعد النموذج على الاستجابة بشكل أكثر دقة للأسئلة المعقدة... صرحت Open AI أن واجهة GPT-4o تضمن معالجة التفاعلات والمعلومات الشخصية بين المستخدمين والذكاء الاصطناعي بشكل آمن. أعلنت Meta - الشركة الأم لفيسبوك وإنستغرام - أنها ستتوقف عن تطوير منصة Workplace للأعمال للتركيز على تطوير منتجات الذكاء الاصطناعي وعالم Metaverse الافتراضي. وفقًا لعالم التكنولوجيا، ستساعد مشاريع الذكاء الاصطناعي القادمة من Meta المستخدمين على الحصول على تجربة أفضل من خلال منصة إعلانات مخصصة وتوصيات محتوى مناسبة وترجمة مباشرة بالعديد من اللغات... في الوقت نفسه، بناء سياسات خصوصية لحماية معلومات المستخدم.

في فعالية عُقدت مؤخرًا، طرحت مايكروسوفت ميزة جديدة تُسمى "Recall" - تُطلق عليها الشركة اسم AI Explorer. وبناءً على ذلك، سيتم دمج أداة الذكاء الاصطناعي هذه على جهاز Copilot Plus، مما يُمكّن المستخدمين من تتبّع كل ما تم على الجهاز، من تصفح الإنترنت إلى الدردشة الصوتية، وإنشاء سجلّ مُخزّن على الجهاز يُمكنهم البحث فيه عند الحاجة إلى تذكّر ما فعلوه سابقًا. بالإضافة إلى ذلك، تُوفّر Recall أيضًا بيانات في جدول زمني مرئي، مما يُتيح للمستخدمين تصفح جميع الأنشطة على الجهاز واستكشافها بسهولة. تُساعد ميزة Live Captions المُصاحبة المستخدمين على البحث عن الاجتماعات ومقاطع الفيديو عبر الإنترنت، ونسخ وترجمة الكلام بسهولة. تَعِد مايكروسوفت بأن Recall سيعمل بشكل خاص على الجهاز لضمان أمان بيانات المستخدم. يُمكن للمستخدمين إيقاف المحتوى المُلتقط مؤقتًا أو إيقافه أو حذفه، أو اختيار استبعاد تطبيقات أو مواقع ويب مُحددة.

يجيب تطبيق Gemini 1.5pro على أسئلة المستخدمين في شكل مخططات بيانية في ثوانٍ معدودة. الصورة: Le Tinh

تذكير وتحذير المستخدمين

وفقًا لخبير الأمن فام دينه ثانغ، فإن عملية التفاعل مع المستخدمين قد زادت من مستوى ذكاء الذكاء الاصطناعي. لذلك، سيشهد نموذج الذكاء الاصطناعي تغيرات جذرية مستمرة وسيصبح أكثر انسيابية، لكن هذا يزيد أيضًا من مخاطر تعرض المستخدمين لتزوير الوجوه (التزييف العميق)، وسيصبح من الصعب اكتشاف الأصوات نظرًا لدقتها العالية.

لذلك، يجب على شركات التكنولوجيا، مثل جوجل أو تشات جي بي تي... التركيز على حماية أمن بيانات المستخدمين. "لا يمكن وضع كل ثقتك في التزامات شركات التكنولوجيا المتعلقة بأمن البيانات. يجب على المستخدمين حماية أنفسهم أولاً. تجنبوا زيارة مواقع الذكاء الاصطناعي الغريبة مجهولة المصدر، لأن معدل البرامج الضارة مرتفع للغاية. تجنبوا الوصول إلى معلومات لا تتعلق بكم. في الوقت نفسه، حدّثوا بانتظام الأخبار المتعلقة بحيل الاحتيال في مجال الذكاء الاصطناعي" - يوصي السيد ثانغ. في غضون ذلك، صرّح السيد هوينه ترونغ ثوا، خبير أمن المعلومات، بأنه عند استخدام منتجات الذكاء الاصطناعي، لا ينبغي على المستخدمين القلق كثيرًا بشأن بياناتهم، لأن جمع البيانات الشخصية للشركات يُستخدم لتحليلها وتقديم تحذيرات وكلمات رئيسية مناسبة لتخصيص التجربة. وأضاف السيد ثوا: "سينخفض ​​معدل الاحتيال بشكل كبير بعد تطبيق جوجل وأوبن إيه آي نماذج جديدة. يُعدّ تحذير الاحتيال بمثابة تذكير قوي يدفع المستخدمين إلى التوقف أمام دعوة المحتالين اللطيفة".

وفقًا لخبراء التكنولوجيا، تميل شركات التكنولوجيا إلى استخدام تشفير أكثر حداثة لحماية بيانات المستخدمين. في الوقت نفسه، مع الإصدارات المُحسّنة، يتمتع المستخدمون بتحكم أكبر في بياناتهم الشخصية، بما في ذلك إمكانية إدارتها وتعديلها وحذفها بالموافقة أو الرفض للسماح للمنصة باستخدامها.

وفقاً للخبراء، واستجابةً للمخاوف بشأن استخدام أدوات الذكاء الاصطناعي في الاحتيال، ينبغي للجهات التنظيمية دراسة وضع سياسات وآليات مرنة للرقابة والإدارة لتشغيل هذه الأدوات بعناية. وهذا من شأنه تهيئة الظروف المناسبة لتطوير تطبيقات الذكاء الاصطناعي بشكل مستدام ومسؤول.

المصدر: https://nld.com.vn/ai-nang-cap-giup-phat-hien-bat-thuong-196240521203710228.htm