קוד המקור של תוכנת הבינה המלאכותית DeepSeek חושף הפתעות רבות.

(עיתון דן טרי) - חוקרי אבטחה גילו דברים מפתיעים בקוד המקור של DeepSeek, תוכנת הבינה המלאכותית שמקורה בסין ועוררה סערה עולמית בימים האחרונים.

מה שמייחד את DeepSeek הוא שהתוכנה פותחה בקוד פתוח, מה שמאפשר לקהילה להשתתף ולמפתחים להטמיע את כלי הבינה המלאכותית הזה במוצרים שלהם.

בתוך הסנסציה העולמית סביב DeepSeek, מומחים מחברת האבטחה האמריקאית Wiz ערכו סקירה יסודית של קוד הקוד הפתוח של כלי הבינה המלאכותית הזה.

מומחים גילו שכלי זה חשף רבים ממאגרי המידע הקריטיים שלהם, כולל יומני מערכת, תוכן פקודות משתמש ואפילו אסימוני אימות API (קודי אבטחה המשמשים לגישה לממשקי התכנות של DeepSeek)...

התגלה כי כלי DeepSeek דולף מידע רגיש רב בתוך קוד המקור שלו (תמונה להמחשה: CNBC).

בסך הכל, למעלה ממיליון רשומות של נתוני DeepSeek קריטיים ניתנות לגישה על ידי גורמים חיצוניים ללא הגבלה. ראוי לציין כי ניתן למצוא נתונים אלה באמצעות מספר טכניקות פשוטות בעת ניצול קוד המקור, במקום לדרוש חיפוש מעמיק וניצול קשה.

"זו הייתה טעות חמורה מצד DeepSeek מכיוון שרמת האבטחה הייתה נמוכה מאוד והייתה לנו גישה גבוהה מאוד ללא כל הגבלות על הרשאות", אמר עמי לוטוואק, מנהל הטכנולוגיה הראשי של Wiz.

"זה מראה ש-DeepSeek אינו מאובטח מספיק כדי שמשתמשים יוכלו לספק את המידע הרגיש והחשוב שלהם", הוסיף לוטוואק.

מומחי אבטחה מודאגים גם מכך שגורמים זדוניים עלולים לנצל את מסדי הנתונים שדלפו כדי לקבל גישה עמוקה יותר למערכות של DeepSeek, לבצע קוד זדוני כדי לגנוב מידע על משתמשים, או לתמרן את התשובות שמספק כלי הבינה המלאכותית למשתמשים.

"זה מזעזע לבנות מודל של בינה מלאכותית ולהשאיר את הדלת האחורית פתוחה לרווחה מנקודת מבט ביטחונית", העיר ג'רמיה פאולר, חוקר אבטחה עצמאי, לאחר שקרא את הדו"ח שפורסם על ידי Wiz.

"משמעות הדבר היא שכל מי שיש לו חיבור לאינטרנט יכול לגשת לכלי הבינה המלאכותית הזה ואז לתפעל אותו, מה שמהווה סיכון משמעותי לארגונים ולמשתמשים", הוסיף פאולר.

לא ברור האם גורמים זדוניים ניצלו את המידע הרגיש שדלף מ-DeepSeek כדי לבצע מזימות זדוניות.

מומחי האבטחה של וויז ניסו ליצור קשר עם DeepSeek כדי להזהיר אותם לגבי הממצאים שלהם.

DeepSeek נותרה דוממת ולא הגיבה. עם זאת, יותר מחצי שעה לאחר שליחת הדיווח בדוא"ל, מומחי Wiz הבחינו כי הנתונים שדלפו בקוד המקור של DeepSeek אינם נגישים עוד, מה שאומר ש-DeepSeek התערבה כדי לטפל בבעיה.

DeepSeek היא חברת סטארט-אפ שנוסדה בשנת 2023 על ידי לואונג ואן פונג. החברה ממוקמת בהאנגג'ואו, סין.

ב-20 בינואר, DeepSeek הוציאה למשתמשים את כלי הבינה המלאכותית שלה, R1. כלי זה הפך מיד לסנסציה עולמית בזכות יכולות התגובה המהירות והמרשימות שלו.

משתמשים רבים מדרגים את DeepSeek R1 כמספק תשובות חכמות, מדויקות ומהירות יותר בהשוואה לכלי בינה מלאכותית אחרים כמו ChatGPT, Gemini או Llama...

מה שהופך את DeepSeek למדהים ביותר הוא שמודל הבינה המלאכותית הזה עלה רק 5.6 מיליון דולר לבנייה ותפעול, בעוד שחברות טכנולוגיה אמריקאיות מוציאות מאות מיליוני דולרים, אפילו מיליארדי דולרים, על פיתוח ותפעול מודלים משלהן לבינה מלאכותית.

סיבה נוספת לכך ש-DeepSeek משכה תשומת לב מעולם הטכנולוגיה היא שכלי הבינה המלאכותית הזה נוצר ופותח בתקופה שבה ממשלת ארה"ב הטילה סנקציות, וחסמה את אספקת שבבי הבינה המלאכותית בעלי ביצועים גבוהים לחברות סיניות.

משמעות הדבר היא ש-DeepSeek פותח ופועל על שבבי בינה מלאכותית בעלי ביצועים נמוכים, אך עדיין מפגין עוצמה מרשימה.

הופעתה של DeepSeek מבטיחה ליצור מרוץ עז בפיתוח בינה מלאכותית בין שתי המעצמות, ארצות הברית וסין.

עם זאת, לצד השבחים, אנשים רבים מודאגים מכך ש-DeepSeek הוא כלי בו משתמשת ממשלת בייג'ינג לאיסוף מידע על משתמשים באמצעות שאלות או מתן תשובות המועילות למדיניות הסינית.

מקור: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm