מומחה אבטחה 'מטעה' את ChatGPT לכתוב תוכנה זדונית.

[מודעה_1]

בינה מלאכותית (AI) כמו ChatGPT הייתה סנסציה עולמית מתחילת 2023, אך היא לא תמיד משמשת למטרות חיוביות. לאחרונה, מומחה אבטחה גילה דרך להורות ל-ChatGPT לייצר קוד זדוני במהלך בדיקות.

אהרון מולגרו, מומחה אבטחה ב-Forcepoint, שיתף את הסיכונים הכרוכים בכתיבת קוד זדוני באמצעות הצ'אטבוט הדו-לשוני של OpenAI. למרות ש-ChatGPT נועד למנוע ממשתמשים לבקש מבינה מלאכותית לעצב תוכנות זדוניות, אהרון מצא פגיעות על ידי יצירת פקודות (הנחיות) עבור הבינה המלאכותית לכתוב קוד שורה אחר שורה. כאשר שולבו, אהרון הבין שיש בידיו כלי ביצוע בלתי ניתן לגילוי לגניבת נתונים, כה מתוחכם שהוא מתחרה אפילו בתוכנות הזדוניות המתקדמות ביותר הקיימות כיום.

Từng dòng lệnh riêng lẻ do ChatGPT tạo ra khi kết hợp lại có thể trở thành mã độc tinh vi — כל שורה בודדת של קוד שנוצרת על ידי ChatGPT, כאשר היא משולבת, יכולה להפוך לתוכנה זדונית מתוחכמת.

התגלית של מולגרו משמשת כקריאת השכמה לגבי הפוטנציאל של ניצול בינה מלאכותית ליצירת תוכנות זדוניות מסוכנות ללא צורך בקבוצות פריצה, ומבלי שהיוצרים אפילו יכתבו שורת קוד אחת בעצמם.

התוכנה הזדונית של מולגרו מוסווית כאפליקציית שולחן עבודה, אך היא יכולה להפעיל את עצמה אוטומטית במכשירי Windows. לאחר שהיא נכנסת למערכת ההפעלה, התוכנה הזדונית "חודרת" לכל הקבצים, כולל מסמכי Word, קבצי תמונה וקובצי PDF, כדי לחפש נתונים לגניבה.

לאחר שהתוכנה מקבלת את המידע הדרוש לה, היא מפרקת אותו ומטמיעה אותו בקבצי תמונה במחשב. כדי להימנע מגילוי, תמונות אלו מועלות לתיקייה באחסון הענן של גוגל דרייב. הנוזקה הופכת לעוצמתית להפליא מכיוון שמולגרו יכולה לכוונן ולשפר את התכונות שלה כדי להימנע מגילוי באמצעות פקודות פשוטות המוזנות ב-ChatGPT.

למרות שזו הייתה תוצאה של בדיקה פרטית של מומחה אבטחה ולא בוצעו התקפות מחוץ לאזור הבדיקה, מומחי אבטחת סייבר עדיין זיהו את הסכנה הטמונה בפעילויות המשתמשות ב-ChatGPT. מולגרו הצהיר כי לו עצמו אין ניסיון רב בתכנות, אך הבינה המלאכותית של OpenAI עדיין לא הייתה חזקה או אינטליגנטית מספיק כדי לעצור את הבדיקה שלו.

[מודעה_2]
קישור למקור