קוד המקור של תוכנת הבינה המלאכותית DeepSeek חושף הפתעות רבות

(דן טרי) - חוקרי אבטחה גילו דברים מפתיעים בקוד המקור של DeepSeek, תוכנת בינה מלאכותית שמקורה בסין ועוררה סערה עולמית בימים האחרונים.

המיוחד ב-DeepSeek הוא שהתוכנה פותחה בקוד פתוח, מה שמאפשר לקהילה לתרום ולמפתחים להטמיע את כלי הבינה המלאכותית הזה במוצרים שלהם.

בהקשר של "התפרצות שיא" עולמית של DeepSeek, מומחים מחברת האבטחה Wiz (ארה"ב) בחנו בקפידה את קוד הקוד הפתוח של כלי בינה מלאכותית זה.

מומחים גילו שכלי זה חושף רבים ממאגרי המידע החשובים שלו, כולל יומני מערכת, תוכן פקודות משתמש ואפילו אסימוני אימות API (אסימוני אבטחה לאימות גישה לממשקי התכנות של DeepSeek)...

התגלה כי כלי DeepSeek דלף מידע רגיש רב בתוך קוד המקור שלו (תמונה להמחשה: CNBC).

בסך הכל, יותר ממיליון רשומות של נתונים חשובים של DeepSeek ניתנות לגישה על ידי גורמים חיצוניים ללא הגבלות. ראוי לציין כי ניתן למצוא נתונים אלה באמצעות מספר טכניקות קטנות בעת ניצול קוד המקור, במקום לחפש לעומק ולנצל אותם בצורה קשה.

"זו הייתה טעות חמורה מצד DeepSeek מכיוון שרמת האבטחה הייתה נמוכה מאוד והייתה לנו גישה גבוהה מאוד ללא כל הגבלות על הרשאות", אמר עמי לוטוואק, מנהל הטכנולוגיה הראשי של Wiz.

"זה מראה ש-DeepSeek אינו מאובטח מספיק כדי שמשתמשים יוכלו לספק את המידע הרגיש והחשוב שלהם", הוסיף לוטוואק.

מומחי אבטחה מודאגים גם מכך שגורמים זדוניים עלולים לנצל את מסדי הנתונים שדלפו כדי לחדור עמוק יותר למערכת של DeepSeek, להריץ קוד זדוני כדי לגנוב מידע על משתמשים או לתמרן את התשובות שמספק כלי בינה מלאכותית זה למשתמשים.

"זה מזעזע מנקודת מבט ביטחונית לבנות מודל בינה מלאכותית ולהשאיר את הדלת האחורית פתוחה לרווחה", העיר ג'רמיה פאולר, חוקר אבטחה עצמאי, לאחר שקרא את הדו"ח שפורסם על ידי Wiz.

"משמעות הדבר היא שכל מי שיש לו חיבור לאינטרנט יכול לגשת ואז לתפעל את כלי הבינה המלאכותית הזה, מה שמהווה סיכון עצום לארגונים ולמשתמשים", הוסיף פאולר.

עדיין לא ברור אם גורמים פושעים ניצלו את המידע הרגיש שדלף של DeepSeek כדי לבצע מזימות אפלות.

מומחי אבטחה של Wiz ניסו ליצור קשר עם DeepSeek כדי להתריע בפניהם על ממצאיהם.

DeepSeek נותרה דוממת ולא הגיבה. עם זאת, יותר מחצי שעה לאחר שליחת הדיווח בדוא"ל, מומחי Wiz גילו כי הנתונים שדלפו בקוד המקור של DeepSeek אינם נגישים עוד, כלומר DeepSeek התערבה כדי לטפל בבעיה.

DeepSeek הוא סטארט-אפ שנוסד בשנת 2023 על ידי לואונג ואן פונג. החברה ממוקמת בהאנגג'ואו, סין.

ב-20 בינואר, DeepSeek הוציאה למשתמשים כלי בינה מלאכותית בשם R1. כלי זה "עורר מיד חום" ברחבי העולם בזכות יכולת התגובה המרשימה והמהירה שלו.

משתמשים רבים מדרגים את DeepSeek R1 כמספק תשובות חכמות, מדויקות ומהירות יותר מכלי בינה מלאכותית אחרים כמו ChatGPT, Gemini או Llama...

מה שהפתיע ביותר את DeepSeek הוא שמודל הבינה המלאכותית הזה עולה רק 5.6 מיליון דולר לבנייה ותפעול, בעוד שחברות טכנולוגיה אמריקאיות מוציאות מאות, אפילו מיליארדי דולרים, על פיתוח ותפעול מודלים משלהן בתחום הבינה המלאכותית.

נקודה נוספת שמושכת את תשומת ליבו של עולם הטכנולוגיה היא שכלי הבינה המלאכותית הזה נולד ופותח בתקופה שבה ממשלת ארה"ב הפעילה סנקציות, שמנעו אספקת שבבי בינה מלאכותית בעלי ביצועים גבוהים לחברות סיניות.

משמעות הדבר היא ש-DeepSeek פותח ופועל על שבבי בינה מלאכותית בעלי ביצועים נמוכים, אך עדיין מפגין עוצמה מרשימה.

הופעתה של DeepSeek מבטיחה ליצור מרוץ עז בפיתוח בינה מלאכותית בין שתי המעצמות, ארה"ב וסין.

עם זאת, מלבד ההערכה הרבה, אנשים רבים מודאגים מכך ש-DeepSeek הוא כלי של ממשלת בייג'ינג לאיסוף מידע על משתמשים באמצעות שאלות או מתן תשובות התומכות במדיניות הסינית.

מקור: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm