کد منبع نرم‌افزار هوش مصنوعی DeepSeek شگفتی‌های زیادی را آشکار می‌کند

(دن تری) - محققان امنیتی چیزهای شگفت‌انگیزی را در کد منبع DeepSeek، یک نرم‌افزار هوش مصنوعی چینی که در روزهای اخیر در سطح جهانی سر و صدا کرده است، کشف کرده‌اند.

نکته‌ی خاص در مورد DeepSeek این است که این نرم‌افزار به صورت متن‌باز توسعه داده شده است و به جامعه اجازه می‌دهد تا در آن مشارکت کنند و توسعه‌دهندگان می‌توانند این ابزار هوش مصنوعی را در محصولات خود بگنجانند.

در زمینه اینکه DeepSeek در سطح جهانی «باعث تب» شده است، کارشناسان شرکت امنیتی Wiz (ایالات متحده آمریکا) کد منبع باز این ابزار هوش مصنوعی را با دقت بررسی کرده‌اند.

کارشناسان کشف کرده‌اند که این ابزار بسیاری از پایگاه‌های داده مهم خود، از جمله گزارش‌های سیستم، محتوای دستورات کاربر و حتی توکن‌های احراز هویت API (توکن‌های امنیتی برای تأیید دسترسی به رابط‌های برنامه‌نویسی DeepSeek) را در معرض خطر قرار می‌دهد...

مشخص شد که ابزار DeepSeek اطلاعات حساس زیادی را در کد منبع خود فاش می‌کند (عکس از CNBC).

در مجموع، بیش از ۱ میلیون رکورد از داده‌های مهم DeepSeek بدون محدودیت می‌توانند توسط افراد خارجی قابل دسترسی باشند. نکته قابل توجه این است که این داده‌ها را می‌توان از طریق چند تکنیک کوچک هنگام بهره‌برداری از کد منبع پیدا کرد، به جای اینکه مجبور به جستجوی عمیق و بهره‌برداری از آن به روشی دشوار باشیم.

امی لاتواک، مدیر ارشد فناوری ویز، گفت: «این یک اشتباه جدی از سوی دیپ‌سیک بود، زیرا سطح امنیت بسیار پایین بود و ما بدون هیچ محدودیتی در مجوزها، دسترسی بسیار بالایی داشتیم.»

لاتواک افزود: «این نشان می‌دهد که DeepSeek به اندازه کافی امن نیست که کاربران بتوانند داده‌های حساس و مهم خود را ارائه دهند.»

کارشناسان امنیتی همچنین نگرانند که افراد خرابکار بتوانند از این پایگاه‌های داده فاش‌شده برای نفوذ عمیق‌تر به سیستم DeepSeek سوءاستفاده کنند، کدهای مخرب را برای سرقت اطلاعات کاربر اجرا کنند یا پاسخ‌های ارائه شده توسط این ابزار هوش مصنوعی به کاربران را دستکاری کنند.

جرمایا فاولر، یک محقق امنیتی مستقل، پس از خواندن گزارش منتشر شده توسط ویز اظهار داشت: «از دیدگاه امنیتی تکان‌دهنده است که یک مدل هوش مصنوعی بسازیم و در پشتی را کاملاً باز بگذاریم.»

فاولر افزود: «این بدان معناست که هر کسی که به اینترنت متصل باشد می‌تواند به این ابزار هوش مصنوعی دسترسی پیدا کند و سپس آن را دستکاری کند، که این امر خطر بزرگی را برای سازمان‌ها و کاربران ایجاد می‌کند.»

هنوز مشخص نیست که آیا افراد شرور از داده‌های حساس فاش‌شده‌ی DeepSeek برای اجرای طرح‌های شوم خود سوءاستفاده کرده‌اند یا خیر.

متخصصان امنیتی Wiz تلاش کردند با DeepSeek تماس بگیرند تا آنها را از یافته‌های خود مطلع کنند.

دیپ‌سیک سکوت کرد و پاسخی نداد. با این حال، بیش از نیم ساعت پس از ارسال گزارش از طریق ایمیل، متخصصان ویز دریافتند که داده‌های فاش‌شده در کد منبع دیپ‌سیک دیگر قابل دسترسی نیستند، به این معنی که دیپ‌سیک برای رسیدگی به مشکل مداخله کرده است.

دیپ‌سیک (DeepSeek) یک استارتاپ است که در سال ۲۰۲۳ توسط لونگ ون فونگ تأسیس شد. دفتر مرکزی این شرکت در هانگژو، چین قرار دارد.

در ۲۰ ژانویه، DeepSeek یک ابزار هوش مصنوعی به نام R1 را برای کاربران منتشر کرد. این ابزار به لطف توانایی پاسخ سریع و چشمگیرش، بلافاصله در سطح جهانی "باعث تب و تاب" شد.

بسیاری از کاربران همچنین DeepSeek R1 را به عنوان ابزاری هوشمندتر، دقیق‌تر و سریع‌تر از سایر ابزارهای هوش مصنوعی مانند ChatGPT، Gemini یا Llama ارزیابی می‌کنند...

چیزی که DeepSeek را بیش از همه شگفت‌آور می‌کند این است که این مدل هوش مصنوعی تنها ۵.۶ میلیون دلار هزینه ساخت و بهره‌برداری دارد، در حالی که شرکت‌های فناوری آمریکایی صدها و حتی میلیاردها دلار برای توسعه و بهره‌برداری از مدل‌های هوش مصنوعی خود هزینه می‌کنند.

نکته‌ی دیگری که باعث می‌شود DeepSeek توجه دنیای فناوری را به خود جلب کند این است که این ابزار هوش مصنوعی در زمانی متولد و توسعه یافت که دولت ایالات متحده با اعمال تحریم‌ها، مانع از عرضه‌ی تراشه‌های هوش مصنوعی با عملکرد بالا به شرکت‌های چینی می‌شد.

این یعنی DeepSeek توسعه داده شده و روی تراشه‌های هوش مصنوعی با عملکرد پایین اجرا می‌شود، اما همچنان قدرت چشمگیری از خود نشان می‌دهد.

ظهور DeepSeek نویدبخش ایجاد رقابتی شدید در توسعه هوش مصنوعی بین دو ابرقدرت، ایالات متحده و چین، است.

با این حال، گذشته از استقبال زیاد، بسیاری از مردم نگران این هستند که DeepSeek ابزاری در دست دولت پکن برای جمع‌آوری اطلاعات کاربران از طریق پرسیدن سوالات یا دادن پاسخ‌هایی باشد که مطابق با سیاست‌های چین باشد.

منبع: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm