הסיכון של מניפולציה של תמונות אישיות על ידי בינה מלאכותית

התפתחות הבינה המלאכותית (AI) לא רק מאיימת על עבודתם של אמנים ברחבי העולם , אלא גם מעמידה את משתמשי האינטרנט בסיכון למניפולציות בתמונות שלהם בדרכים שונות.

כלי בינה מלאכותית יוצרים בקלות מוצרי טכנולוגיה מזויפים. (תמונה להמחשה)

"עידן הדיפפייק"

מצד שני, בינה מלאכותית, בידיים הלא נכונות, יכולה בקלות לגנוב תמונות מחשבונות המדיה החברתית של אנשים ולהפוך אותן להפניות לא רצויות. לדוגמה, אתרים פורנוגרפיים יכולים להשתמש בתמונות של אנשים ללא הסכמתם.

"אנחנו בעידן של זיופים עמוקים", אמר האדי סלמאן, חוקר במכון הטכנולוגי של מסצ'וסטס. "כעת כל אחד יכול לתמרן תמונות וסרטונים כדי לגרום לאנשים 'לעשות' משהו שהוא לא עשה".

דיפפייק הוא שילוב של המילים "למידה עמוקה" ו"זיוף", שהיא שיטה של ​​שימוש בבינה מלאכותית ליצירת מוצרי טכנולוגיה מזויפים בצורת אודיו, תמונות או אפילו סרטונים .

תוך שניות ספורות, בעזרת כמה פקודות פשוטות, בינה מלאכותית יכולה ליצור כל תמונה שה"רעים" רוצים. לדוגמה, מישהו יכול לבקש מבינה מלאכותית ליצור תמונה של האפיפיור לובש מעיל של בלנסיאגה ואז לפרסם אותה באינטרנט לפני שיתברר שהתמונה מזויפת.

טכנולוגיית הבינה המלאכותית הדהימה משתמשים גם ביכולתה ליצור יצירות אמנות בסגנון של אמן מסוים. לדוגמה, ניתן ליצור ציור של חתול שנראה כאילו צויר בסגנון הצייר המפורסם וינסנט ואן גוך.

עבור אמנים חזותיים, כלים אלה מסתכנים בפיטורתם, שכן מודלים של בינה מלאכותית מחקים את סגנונותיהם הייחודיים ויוצרים יצירות אמנות ללא רשותם.

כלי תמיכה בבינה מלאכותית

אוולין פרוליך, המתגוררת בשטוטגרט, גרמניה, היא אחת ממספר הולך וגדל של אמנים הנלחמים נגד השפעתה המוגזמת של הבינה המלאכותית ומנסים למצוא דרכים להגן על עבודותיהם החזותיות ברשת מפני מניפולציה.

לאחרונה, גב' פרוליך למדה על כלי בשם Glaze, שפותח על ידי מדעני מחשב מאוניברסיטת שיקגו (ארה"ב) כדי למנוע ניצול לרעה של מודלים של בינה מלאכותית.

בן ז'או, פרופסור למדעי המחשב באוניברסיטת שיקגו ואחד החוקרים המובילים בפרויקט גלייז, אמר ל-CNN כי הכלי נועד להגן על עבודות ייחודיות של אמנים מפני יחידות הכשרה של בינה מלאכותית.

תוכנת Glaze משתמשת באלגוריתמים של למידת מכונה כדי לבצע שינויים קטנים בתמונות דיגיטליות שאינן נראות לעין בלתי מזוינת, אך יוצרות שכבת מגן לעבודה בסביבה המקוונת, תוך רימו של מודלים של בינה מלאכותית, ומונעות מהם להעתיק את סגנון המחבר.

הודות ל-Glaze, יצירות אמנות "מכוסות בבלתי נראות", מה שמונע מהבינה המלאכותית "לקרוא" את התמונה.

לדוגמה, הסביר מר ז'או, אמן יכול להעלות תמונה של ציור שמן משלו, אותה רצה דרך Glaze. כאשר מודלי הבינה המלאכותית "קוראים" את הציור, הם יראו אותו כסקיצה מפחם - בעוד שאדם יזהה אותו מיד כציור שמן. לאחר העברתו דרך Glaze, יצירת האמנות תיראה כעת שונה באופן משמעותי בעיני הבינה המלאכותית.

הצוות של ז'או הוציא את הגרסה הראשונה של Glaze במרץ האחרון וצבר למעלה ממיליון הורדות. רק בשבוע שעבר, הצוות הוציא גרסה חינמית של Glaze באינטרנט.

הצוות מקווה שכלי Glaze יסייע בהגנה על זכויות היוצרים של אמנים עד שייקבעו תקנות וחוקים ספציפיים.

מאז שהציג את Glaze, אמר מר ז'או, הוא ראה עלייה במספר שחקני קול, סופרים, מוזיקאים ועיתונאים שפונים לצוות שלו כדי לשאול על גרסה של Glaze לתחומם.

האמן החזותי ג'ון לאם, המתגורר בקליפורניה, משתמש בכלי Glaze כדי לסייע בהגנה על יצירות האמנות המקוונות שלו מפני שימוש לאימון מודלים של בינה מלאכותית, ואומר שהוא משתמש כעת באפליקציה עבור כל יצירות האמנות שהוא משתף באינטרנט.

"במשך שנים, אמנים כמוהו פרסמו את עבודותיהם ברזולוציה מלאה באינטרנט מתוך גאווה", אמר. "אנחנו רוצים שאנשים יראו כמה תמונות באיכות Full HD מפורטות ומדהימות. עם זאת, אמנים לא יודעים שעבודותיהם יכולות 'להיאכל' על ידי מודלים של בינה מלאכותית, אשר לאחר מכן מעתיקים את הסגנון שלהם וחושפים אותם לתחרות לא הוגנת."

"עכשיו אנחנו יודעים שאנשים לוקחים את העבודה שלנו ברזולוציה גבוהה ומזינים אותה למכונות בינה מלאכותית כדי להתחרות באותו תחום כמונו. אז אנחנו צריכים להיות זהירים יותר ולהתחיל לחשוב איך להגן על עצמנו", הוא אמר.

סלמן וצוותו הוציאו זה עתה כלי נוסף להגנה על תמונות מפני בינה מלאכותית. האפליקציה, הנקראת PhotoGuard, מאפשרת למשתמשים להניח שכבת הגנה בלתי נראית על תמונות כדי למנוע ממודלים של בינה מלאכותית לתמרן אותן.

מטרתה של PhotoGuard היא להגן על תמונות שכבר הועלו לרשת על ידי יוצריהן מפני "מניפולציה זדונית של בינה מלאכותית", אמר מר סלמאן.

אפליקציית PhotoGuard פועלת על ידי התאמת הפיקסלים של תמונה באופן שאינו מורגש על ידי בני אדם. עם זאת, שינוי זה, שאינו מורגש לעין בלתי מזוינת, הוא חזק מספיק ועוקף בזהירות כל ניסיון של מודלים של בינה מלאכותית לתמרן את התמונה.

משמעות הדבר היא שאם מישהו ינסה לערוך תמונה באמצעות בינה מלאכותית לאחר שהיא הוגנה על ידי PhotoGuard, התמונה שתתקבל תהיה "בכלל לא מציאותית", הסביר סלמן.

ללא רישיון

מצד שני, גם אם כלי בינה מלאכותית מצלמים ומטפלים בתמונות, מה שהם יוצרים אינו מוכר כבעל זכויות יוצרים.

מאז הופעתה ועלייתה לגדולה, בינה מלאכותית עוררה גם ויכוח: האם יצירות אלה מוגנות בזכויות יוצרים? אם כן, למי הן שייכות?

משרד זכויות היוצרים האמריקאי (USCO) קיבל החלטה רשמית בנוגע ליצירות אלו. על פי ה-USCO, כל תמונה שנוצרה על ידי בינה מלאכותית המבוססת על פקודות – (כמו האפליקציות הנוכחיות Midjourney, Dall-E ו-Stable Diffusion) – לא תהיה ניתנת להגנה על זכויות יוצרים בארה"ב.

החוק האמריקאי קובע כי קניין רוחני יכול להיות מוגן בזכויות יוצרים רק אם הוא תוצר של יצירתיות אנושית. חוק USCO מכיר כיום רק ביצירות שנוצרו על ידי בני אדם. לכן, מכונות בינה מלאכותית לא ייחשבו כיוצרים, והמוצרים שהן יוצרות לא יהיו מוגנים בזכויות יוצרים.

"אם האלמנטים המסורתיים של זכויות יוצרים ביצירה נוצרים על ידי מכונה, אז היצירה אינה מוגנת בזכויות יוצרים של אדם, ו-USCO לא תרשום אותה", אמרה מנהלת USCO, שירה פרלמוטר.

מָקוֹר: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html