ChatGPT חושף מידע אישי עקב שגיאה "טיפשית"

צוות חוקרים אומר שהם הצליחו לגרום ל-ChatGPT לחשוף נתונים מסוימים על ידי הוראת הבינה המלאכותית לחזור על מילים אקראיות.

חוקרים ב-Google DeepMind, אוניברסיטת וושינגטון, אוניברסיטת קורנל, אוניברסיטת קרנגי מלון, אוניברסיטת קליפורניה ברקלי ו-ETH ציריך קראו לחברות בינה מלאכותית לבחון ביסודיות את מוצריהן, החל ממודלים של שפה גדולה ועד לטכנולוגיה הבסיסית שמפעילה שירותי בינה מלאכותית כמו צ'אטבוטים ומחוללי תמונות, לפני שישחררו אותם רשמית.

האזהרה הגיעה לאחר שחוקרים ביקשו מ-ChatGPT לחזור על המילה poem בלולאה אינסופית. ChatGPT נענה, אך לאחר מכן החל לחשוף את כתובת הדוא"ל ומספר הטלפון האמיתיים של המנכ"ל והמייסד השותף של OpenAI. כאשר נבדק עם המילה company, הצ'אטבוט הציג את כתובת הדוא"ל ומספר הטלפון של משרד עורכי דין אקראי.

לוגו של ChatGPT מוצג על סמארטפון. צילום: רויטרס

באמצעות מילות מפתח אחרות, הם הצליחו גם לגרום ל-ChatGPT לחשוף כתובות ביטקוין, מספרי פקס, שמות, תאריכי לידה, חשבונות מדיה חברתית, קטעים ממאמרי מחקר המוגנים בזכויות יוצרים או מאמרים בתשלום מ- CNN . עלה לצוות רק 200 דולר לייצר 10,000 דוגמאות של מידע ונתונים אישיים.

החוקרים אמרו שהם הופתעו, וכינו את הפגיעות של ChatGPT "ממש מטופשת" ואמרו שהיא הייתה צריכה להתגלות מוקדם יותר.

הפגיעות דווחה ל-OpenAI ותוקנה ב-30 באוגוסט. עם זאת, בבדיקה החדשה של Engadget , כאשר התבקש מ-ChatGPT לחזור על המילה reply ללא סוף, אתר הטכנולוגיה קיבל את שם האדם ואת מזהה הסקייפ שלו.

OpenAI טרם הגיבה.

בינה מלאכותית גנרטיבית כמו ChatGPT או מחולל הטקסט לתמונה Dall-E בנויות על מודלים של שפה גדולים ואלגוריתמים של למידת מכונה, המאומנים על כמויות אדירות של נתונים ללא הסכמת המשתמש. OpenAI לא חשפה על אילו נתונים ChatGPT מאומן מכיוון שמודל השפה הגדול שמפעיל אותו הוא קוד סגור.

לפי הוי דוק - VnExpress

מָקוֹר: https://www.baohaugiang.com.vn/khoa-hoc-cong-nghe/chatgpt-lam-lo-thong-tin-ca-nhan-vi-loi-ngo-ngan-127955.html