כלי הבינה המלאכותית החדש של אוסטרליה נלחם בתמונות דיפפייק מזיקות

על פי כתב של VNA בסידני, אוניברסיטת מונאש והמשטרה הפדרלית האוסטרלית (AFP) משתפות פעולה לפיתוח כלי בינה מלאכותית (AI) חדש ופורץ דרך שיאט ולמנוע מפושעים ליצור תמונות דיפפייק מזיקות וחומרי התעללות בילדים באמצעות בינה מלאכותית.

הכלי, המכונה Silverer, הוא תוצר של מעבדת הבינה המלאכותית לאכיפת חוק ובטיחות קהילתית (AiLECS), שיתוף פעולה מחקרי אסטרטגי בין AFP לאוניברסיטת מונאש, המיישם בינה מלאכותית לאתגרי אכיפת חוק ואבטחה מורכבים. הכלי נמצא כעת בשלב הפיילוט שלו, ומפותח בהובלת הדוקטורנטית אליזבת פרי מאוניברסיטת מונאש.

לפי אוניברסיטת מונאש, הפרויקט משתמש בטכניקה הנקראת "הרעלת נתונים" כטכניקת ליבה בכלי החדש הזה. טכניקה זו כוללת שינוי עדין של נתוני מקור מקוונים, מה שמקשה משמעותית על מודלים של בינה מלאכותית ולמידת מכונה (ML) ליצור, לתפעל ולנצל לרעה תמונות או סרטונים .

מכיוון שכלי בינה מלאכותית דורשים כמויות גדולות של נתוני מקור, הרעלת נתונים גורמת למודל לייצר תוצאות לא מדויקות, מוטות או פגומות, מה שמקל על זיהוי תמונות או סרטונים מזויפים שנוצרו על ידי פושעים.

פרי, דוקטורנט, מסביר שמשתמשים יכולים להשתמש ב-Silverer כדי לערוך תמונות לפני העלאתן לרשתות חברתיות או לאינטרנט. פעולה זו תשנה את הפיקסלים כדי להטעות את מודל הבינה המלאכותית, מה שיהפוך את הפלט שלהם לעיוות, מכוסה ב"עיוותים" או בלתי ניתן לזיהוי לחלוטין.

פרופסור חבר קמפבל וילסון - מנהל שותף של AiLECS ומומחה לזיהוי פלילי דיגיטלי - אמר כי יצירת תמונות מזויפות וזדוניות באמצעות טכנולוגיית קוד פתוח הופכת לבעיה חמורה יותר בשל קלות השימוש בה.

סוכנות הידיעות AFP תיעדה עלייה בחומרי התעללות בילדים שנוצרו על ידי בינה מלאכותית, כאשר פושעים מנצלים את הטכנולוגיה כדי לייצר ולשתף כמויות גדולות של פורנוגרפיה מזויפת באינטרנט.

אוניברסיטת מונאש מסרה כי המטרה הכוללת של פרויקט סילברר היא לפתח טכנולוגיה קלה לשימוש עבור אוסטרלים המעוניינים להגן על המידע האישי שלהם ברשתות החברתיות. גרסת פיילוט של הכלי נבחנת כעת לשימוש פנימי בתוך ה-AFP.

(TTXVN/וייטנאם+)

מקור: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp