کد منبع نرم‌افزار هوش مصنوعی DeepSeek شگفتی‌های زیادی را آشکار می‌کند.

(روزنامه دن تری) - محققان امنیتی چیزهای شگفت‌انگیزی را در کد منبع DeepSeek، نرم‌افزار هوش مصنوعی چینی که در روزهای اخیر توجه جهانی را به خود جلب کرده است، کشف کرده‌اند.

چیزی که DeepSeek را خاص می‌کند این است که این نرم‌افزار به صورت متن‌باز توسعه داده شده است و به جامعه اجازه می‌دهد تا در آن مشارکت کنند و توسعه‌دهندگان می‌توانند این ابزار هوش مصنوعی را در محصولات خود تعبیه کنند.

در بحبوحه جنجال جهانی پیرامون DeepSeek، متخصصان شرکت امنیتی آمریکایی Wiz بررسی کاملی از کد متن‌باز این ابزار هوش مصنوعی انجام دادند.

کارشناسان کشف کردند که این ابزار بسیاری از پایگاه‌های داده حیاتی آنها، از جمله گزارش‌های سیستم، محتوای دستورات کاربر و حتی توکن‌های احراز هویت API (کدهای امنیتی مورد استفاده برای دسترسی به رابط‌های برنامه‌نویسی DeepSeek) را در معرض خطر قرار داده است...

مشخص شد که ابزار DeepSeek اطلاعات حساس زیادی را در کد منبع خود فاش می‌کند (تصویر تزئینی: CNBC).

در مجموع، بیش از ۱ میلیون رکورد از داده‌های حیاتی DeepSeek می‌توانند بدون محدودیت توسط افراد خارجی قابل دسترسی باشند. نکته قابل توجه این است که این داده‌ها را می‌توان از طریق چند تکنیک ساده هنگام بهره‌برداری از کد منبع پیدا کرد، نه اینکه نیاز به جستجوی عمیق و بهره‌برداری دشوار داشته باشد.

امی لاتواک، مدیر ارشد فناوری ویز، گفت: «این یک اشتباه جدی از سوی DeepSeek بود زیرا سطح امنیت بسیار پایین بود و ما بدون هیچ محدودیتی در امتیازات، دسترسی بسیار بالایی داشتیم.»

لاتواک افزود: «این نشان می‌دهد که DeepSeek به اندازه کافی امن نیست که کاربران بتوانند داده‌های حساس و مهم خود را ارائه دهند.»

کارشناسان امنیتی همچنین نگرانند که عوامل مخرب بتوانند از این پایگاه‌های داده فاش‌شده برای دسترسی عمیق‌تر به سیستم‌های DeepSeek سوءاستفاده کنند، کدهای مخرب را برای سرقت اطلاعات کاربر اجرا کنند یا پاسخ‌های ارائه شده توسط ابزار هوش مصنوعی به کاربران را دستکاری کنند.

جرمایا فاولر، یک محقق امنیتی مستقل، پس از خواندن گزارش منتشر شده توسط ویز، اظهار داشت: «از دیدگاه امنیتی، ساخت یک مدل هوش مصنوعی و باز گذاشتن در پشتی آن، تکان‌دهنده است.»

فاولر افزود: «این بدان معناست که هر کسی که به اینترنت متصل باشد می‌تواند به این ابزار هوش مصنوعی دسترسی پیدا کند و سپس آن را دستکاری کند، که این امر خطر قابل توجهی را برای سازمان‌ها و کاربران ایجاد می‌کند.»

هنوز مشخص نیست که آیا افراد مخربی از داده‌های حساس فاش شده از DeepSeek برای انجام طرح‌های شوم خود سوءاستفاده کرده‌اند یا خیر.

متخصصان امنیتی ویز تلاش کردند با DeepSeek تماس بگیرند تا آنها را در مورد یافته‌هایشان مطلع کنند.

دیپ‌سیک سکوت کرد و هیچ پاسخی ارائه نداد. با این حال، بیش از نیم ساعت پس از ارسال گزارش از طریق ایمیل، متخصصان ویز متوجه شدند که داده‌های فاش‌شده در کد منبع دیپ‌سیک دیگر قابل دسترسی نیستند، به این معنی که دیپ‌سیک برای رسیدگی به این مشکل مداخله کرده است.

دیپ‌سیک (DeepSeek) یک شرکت نوپا است که در سال ۲۰۲۳ توسط لونگ ون فونگ تأسیس شد. این شرکت در هانگژو، چین مستقر است.

در 20 ژانویه، DeepSeek ابزار هوش مصنوعی خود به نام R1 را برای کاربران منتشر کرد. این ابزار به لطف قابلیت‌های پاسخ سریع و چشمگیرش، بلافاصله به یک پدیده جهانی تبدیل شد.

بسیاری از کاربران همچنین DeepSeek R1 را به عنوان ابزاری هوشمندانه‌تر، دقیق‌تر و سریع‌تر در مقایسه با سایر ابزارهای هوش مصنوعی مانند ChatGPT، Gemini یا Llama ارزیابی می‌کنند…

چیزی که DeepSeek را شگفت‌انگیزتر می‌کند این است که این مدل هوش مصنوعی تنها ۵.۶ میلیون دلار برای ساخت و بهره‌برداری هزینه داشته است، در حالی که شرکت‌های فناوری آمریکایی صدها میلیون، حتی میلیاردها دلار، برای توسعه و بهره‌برداری از مدل‌های هوش مصنوعی خود هزینه می‌کنند.

یکی دیگر از دلایلی که DeepSeek توجه دنیای فناوری را به خود جلب کرده است این است که این ابزار هوش مصنوعی در زمانی ایجاد و توسعه داده شد که دولت ایالات متحده تحریم‌هایی را اعمال می‌کرد و مانع از عرضه تراشه‌های هوش مصنوعی با کارایی بالا به شرکت‌های چینی می‌شد.

این بدان معناست که DeepSeek بر روی تراشه‌های هوش مصنوعی با عملکرد پایین توسعه یافته و عمل می‌کند، اما همچنان قدرت چشمگیری را نشان می‌دهد.

ظهور DeepSeek نویدبخش ایجاد رقابتی شدید در توسعه هوش مصنوعی بین دو ابرقدرت، ایالات متحده و چین، است.

با این حال، در کنار این ستایش، بسیاری از مردم نگران این هستند که DeepSeek ابزاری است که توسط دولت پکن برای جمع‌آوری اطلاعات کاربران از طریق پرسش یا ارائه پاسخ‌هایی که به نفع سیاست‌های چین است، استفاده می‌شود.

منبع: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm