هکرها می‌توانند با «صحبت کردن» با چت‌بات هوش مصنوعی، اطلاعات محرمانه شرکت‌ها را به دست آورند.

به گفته کارشناسان فناوری، هکرها با استفاده از مجموعه‌ای از دستورالعمل‌های پیچیده می‌توانند بدون شناسایی شدن، به پایگاه داده «محرمانه» یک شرکت نفوذ کنند.

مروری بر رویداد روز بومیان OpenInfra و Cloud ویتنام ۲۰۲۵ با موضوع "دوران پیشرفت دیجیتال ویتنام" - عکس: CHI HIEU

هوش مصنوعی (AI) ارزش‌های زیادی را به ارمغان می‌آورد، به خصوص اکنون که توسط بسیاری از مشاغل برای خدمت به کاربران نهایی مانند کارمندان شرکت، مشتریان و... ادغام شده است. از اینجا، سیستم‌های چت‌بات یکپارچه با هوش مصنوعی می‌توانند به "دریچه‌ای باریک" برای کمک به هکرها برای حمله و سرقت اطلاعات در سیستم‌های ذخیره‌سازی داده‌ها تبدیل شوند.

آقای دائو ویت هونگ، مدیر کشوری شرکت Akamai Technologies ویتنام، در رویداد OpenInfra & Cloud Native Day Vietnam 2025 که در 26 جولای در هانوی برگزار شد، هشدار داد: «در حال حاضر، روش‌های زیادی برای حمله به مدل‌های هوش مصنوعی وجود دارد که رایج‌ترین آنها «مسمومیت محتوا» است که به نظر می‌رسد برای سیستم‌های سنتی حفاظت از اطلاعات «نامرئی» است.»

این رویداد توسط انجمن اینترنت ویتنام (VIA) با هماهنگی انجمن زیرساخت باز ویتنام (VietOpenInfra)، باشگاه رایانش ابری و مرکز داده ویتنام (VNCDC) و با حمایت وزارت علوم و فناوری برگزار شد.

۹۰ درصد کسب‌وکارها از پلتفرم‌ها یا نرم‌افزارهای متن‌باز استفاده می‌کنند

آقای وو دِ بین - معاون رئیس جمهور و دبیرکل انجمن اینترنت ویتنام - در سخنرانی افتتاحیه خود بر اهمیت زیرساخت‌های باز و کد منبع باز در فرآیند تحول دیجیتال ملی تأکید کرد.

آقای بین در زمینه تغییرات سریع در فناوری جهانی گفت که زیرساخت‌های باز به عنوان پایه و اساسی برای نوآوری همچنان در حال توسعه هستند، زمانی که بیش از ۹۰ درصد از کسب‌وکارها از پلتفرم‌ها یا نرم‌افزارهای باز در اشکال مختلف استفاده می‌کنند.

طبق نظرسنجی Red Hat (2024)، 82 درصد از رهبران فناوری، پلتفرم‌ها و نرم‌افزارهای باز را کلید پیشبرد تحول دیجیتال و تسریع نوآوری می‌دانند. پلتفرم‌هایی مانند Kubernetes، OpenStack، Linux، Ceph، OpenTelemetry به طور فزاینده‌ای نقش مهمی در عملکرد سیستم‌های هوش مصنوعی، اینترنت اشیا، 5G/6G و Cloud Native ایفا می‌کنند.

آقای وو دِ بین گفت: «۱۰ سال پیش، فضای ابری را می‌شد با ابرهای آسمان اشتباه گرفت و متن‌باز مانند یک «راز هنرهای رزمی» به نظر می‌رسید. اما امروز، ما اینجا هستیم و با جامعه جهانی زیرساخت باز در بیش از ۱۸۰ کشور ارتباط برقرار می‌کنیم و با هم خطوط کد را به نیروی محرکه نوآوری تبدیل می‌کنیم.»

هوش مصنوعی چت‌بات - «درب باریک» برای نفوذ هکرها به سیستم

«در حال حاضر، بسیاری از کسب‌وکارها به شدت از اثربخشی پلتفرم‌های باز و واکنش‌گرا که سیستم‌هایی مانند چت‌بات‌های هوش مصنوعی را ادغام می‌کنند، برای بهبود عملکرد کاری و افزایش تجربه کاربری استفاده می‌کنند.»

همچنین از اینجا، آقای دائو ویت هونگ، مدیر کشوری آکامای تکنولوژیز ویتنام، هشدار داد که بسیاری از روش‌های حمله به مدل‌های هوش مصنوعی، از جمله حملات «مسمومیت محتوا»، وجود دارد.

او اظهار داشت که کسب‌وکارهای ویتنامی هنگام استقرار هوش مصنوعی هنوز اطلاعات زیادی در مورد این نوع حمله ندارند.

بر این اساس، بازیگران بد از روش پرسیدن و آموزش مداوم اطلاعات نادرست به مدل هوش مصنوعی استفاده می‌کنند و باعث «مسمومیت اطلاعاتی» می‌شوند.

اگر اطلاعات موجود در سیستم ابری "آلوده" شده باشد و شناسایی نشود و همچنان مورد استفاده قرار گیرد، اطلاعات نادرستی ارائه می‌دهد یا از این آسیب‌پذیری برای نفوذ مخفیانه به پایگاه داده به منظور به دست آوردن اطلاعات استفاده می‌کند.

آقای دائو ویت هونگ، مدیر کشوری شرکت آکامای تکنولوژیز ویتنام - عکس: CHI HIEU

آقای دائو ویت هونگ به یک داستان نادر اشاره کرد که در آن سیستم چت‌بات فروش آنلاین یک شرکت خودروسازی متقاعد شد که یک ماشین نو را فقط با قیمت ۱ دلار بفروشد.

دلیلش این است که در طول فرآیند تبادل و مذاکره با چت‌بات، این مشتری راهی پیدا کرده تا «به پایگاه داده نفوذ» کند و چت‌بات را متقاعد کند که با درخواست فوق موافقت کند.

مثال دیگر زمانی است که یک هکر با موفقیت تمام اسناد محرمانه و نمودارهای سازمانی شرکت را تنها با طرح سوالات مناسب و ارسال آنها به چت‌بات هوش مصنوعی داخلی به دست آورد.

آقای دائو ویت هونگ، راهکار امنیتی هوش مصنوعی را برای مقابله با این ریسک به اشتراک گذاشت تا هوش مصنوعی بتواند از آن محافظت کند. این روشی است که توسط بسیاری از شرکت‌های بزرگ در جهان استفاده می‌شود.

با این روش امنیتی، داده‌های ذخیره‌شده چندین لایه حفاظتی را ادغام می‌کنند و «آلوده شدن» آن‌ها را دشوار می‌سازد.

سیستم امنیتی هوش مصنوعی می‌تواند تشخیص دهد که کدام اطلاعات بی‌خطر هستند و کدام اطلاعات خطرات بالقوه حمله دارند، و از این طریق یک برنامه مدیریت سریع و مناسب خواهد داشت...

بازگشت به موضوع

احترام به فرزند

منبع: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm