ילדים בסיכון להפוך לקורבנות של בינה מלאכותית כאשר הורים מפרסמים תמונות ברשת

[מודעה_1]

התפוצצות המידע והקשרים ברשתות החברתיות בפרט ובאינטרנט בכלל גרמה לאנשים רבים לשתף את כל רגשותיהם ואירועיהם בחייהם האישיים באינטרנט מבלי לצפות את הסכנות הטמונות בכך. לא רק פרסום תמונות וסרטונים של עצמם באינטרנט, מבוגרים רבים גם נותנים לעצמם את הזכות לפרסם תוכן המכיל את פניהם או קולותיהם של ילדים ללא רשות. ברגע שתמונות וסרטונים אלה מופיעים ברשת, כל מי שיש לו גישה יכול להשתמש בהם ללא כל הגבלה.

ביולי האחרון, רשת הטלוויזיה הגרמנית דויטשה טלקום פרסמה פרסומת מדומה המציגה כיצד תמונות של ילדים צעירים יכולות להיות מנוצלות ברשת, באמצעות בינה מלאכותית (AI) למטרות שונות. הסרטון, שכותרתו "מסר מאלה" , משתמש בבינה מלאכותית וב-Deepfake כדי ליצור גרסה למבוגרים של תמונות וסרטונים של אלה הצעירה שפורסמו באינטרנט על ידי הוריה.

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi — "אלה הבוגרת" נוצרה על ידי בינה מלאכותית מתמונות של אלה בת ה-9 ברשתות החברתיות בסרטון האזהרה של דויטשה טלקום.

"אלה, בעלת בינה מלאכותית", יכולה לנוע ולדבר כמו אדם אמיתי, מה שהדהים את הוריה כשראו את בתם על המסך הגדול של הקולנוע. היא אפילו יכולה לבכות ולהביע את עצמה בדיוק כמו אדם.

"אני יודעת שעבורכם, התמונות האלה הן זיכרונות. אבל עבור אחרים, הן נתונים. ועבורי, הן יכולות להיות תחילתו של עתיד נורא, נורא שבו הזהות שלי עלולה להיגנב, אני עלולה להגיע לכלא על דברים שלא עשיתי... מה שאתם משתפים ברשת הן אבני דרך דיגיטליות שילוו אותי למשך שארית חיי", שיתפה דמות הבינה המלאכותית אלה.

בעזרת תמונה אחת משותפת, בינה מלאכותית יכולה ליצור גרסה בוגרת של ילדה בת 9. דיפפייק מחלץ קולות מסרטונים והופך אותם לקולות בוגרים. תמונות וסרטונים יכולים להיות מזויפים לחלוטין, נתוני זיהוי אישיים הופכים למידע יקר ערך שנגנב למטרות בלתי חוקיות. לא עוצרים שם, רשעים יכולים להשתמש בתמונות שנאספו באינטרנט כדי לגזור ולהדביק, להשתמש בבינה מלאכותית כדי ליצור פורנוגרפיית ילדים או סדרת תמונות שלועגות, משמיצות ומעוותות את האמת...

"מחקרים אחרונים מראים שלילד בן חמש ממוצע יש כ-1,500 תמונות שפורסמו באינטרנט ללא הסכמתו, שפורסמו על ידי לא אחר מאשר האדם שהוא בוטח בו ביותר: אמו או אביו", אמר כריסטיאן לפרט, ראש התקשורת והשיווק בדויטשה טלקום.

על פי הניו יורקר, מומחים מעריכים שעד שנת 2030, שני שלישים מגניבת הזהויות ייגרמו עקב שיתוף תמונות בלתי מבוקר ברשתות החברתיות. דויטשה טלקום ציטטה גם דו"ח לפיו יותר מ-75% מההורים משתפים כיום נתונים על ילדיהם ברשתות החברתיות. בינתיים, לשמונה מתוך עשרה הורים יש חברי רשתות חברתיות שעוקבים אחר החשבונות שלהם מבלי לפגוש אותם בחיים האמיתיים.

לאחרונה, פיתוח כלי בינה מלאכותית הפך ל"פופולרי" יותר ויותר, ומגיע למשתמשים רגילים דרך סדרה של אפליקציות במכשירים ניידים. במקום להיזהר עם תוכנות אלו, אנשים רבים מספקים ברשלנות תמונות אישיות או משפחתיות לפרסום ברשתות חברתיות. פעולה זו מספקת, שלא במתכוון, לבינה מלאכותית כמות גדולה של נתונים בחינם כדי ללמוד על אנשים, החל ממבנה הפנים ועד לסביבה הסובבת אותה.

מומחי אבטחה רבים מזהירים כי בכל המצבים, אפילו עם מגמות חדשות, על המשתמשים לנקוט משנה זהירות ולא לסחור במידע אישי, במיוחד במידע על הפנים שלהם ושל יקיריהם, תמורת כמה דקות של כיף ברשתות חברתיות.

[מודעה_2]
קישור למקור