מומחים מזהירים מפני בינה מלאכותית היוצרת תמונות סטריאוטיפיות ומוגזמות

כשמחפשים תמונות בנושא עוני, אפשר למצוא הרבה תמונות של ילדים אפריקאים מרופטים, ילדים אסייתים שוחים בנהרות מלאים אשפה... שנוצרו על ידי בינה מלאכותית.

תוצרי בינה מלאכותית: גזענות והטיה

תמונות שנוצרו על ידי בינה מלאכותית של נושאים כמו עוני, ילדים וקורבנות אלימות מינית מציפות ארכיוני תמונות מקוונים, כאשר ארגונים לא ממשלתיים (NGOs) משתמשים בהן יותר ויותר, על פי מומחי בריאות עולמיים. מומחים מזהירים כי הדבר עלול לאותת על "עידן חדש של תרבות ניצול עוני".

"התמונות האלה משקפות את תפיסת המוגדרת כברירת מחדל של עוני - ילדים מחזיקים קערות ריקות, אדמה סדוקה... מאוד סטריאוטיפית", אמר ארסני אלניצ'ב, חוקר במכון לרפואה טרופית באנטוורפן, החוקר את הפקת תמונות בריאות עולמיות .

מר אלניצ'ב אסף יותר מ-100 תמונות של עוני קיצוני שנוצרו באמצעות בינה מלאכותית, אשר שימשו יחידים או ארגונים לא ממשלתיים בקמפיינים ברשתות החברתיות נגד רעב ואלימות מינית.

התמונות ששיתף עם הגרדיאן מציגות סצנות מוגזמות וסטריאוטיפיות: ילדים מצטופפים בשלוליות בוץ; ילדה אפריקאית בשמלת כלה כשדמעות זולגות על פניה. בפרשנות שפורסמה לאחרונה בכתב העת Lancet Global Health, הוא טען שהתמונות מהוות "פורנוגרפיית עוני גרסה 2.0".

צילום מסך המציג תמונה שנוצרה על ידי בינה מלאכותית של "עוני" באתר תמונות. (צילום: Freepik)

מר אלניצ'ב ומומחים רבים אחרים אומרים שהשימוש בתמונות מבוססות בינה מלאכותית הולך וגובר עקב חששות בנוגע לזכויות יוצרים ועלויות. קיצוצי התקציב של ממשלת ארה"ב לארגונים לא ממשלתיים החמירו את הבעיה.

"ברור שהרבה ארגונים מתחילים לשקול שימוש בתמונות מבוססות בינה מלאכותית במקום תמונות אמיתיות כי זה זול. אתם גם לא צריכים לדאוג לגבי זכויות יוצרים והרבה דברים אחרים", הוא אמר.

האם האחריות מוטלת על המשתמש או על הפלטפורמה?

תמונות של עוני שנוצרו באמצעות בינה מלאכותית מופיעות בעשרות אתרי צילום, כולל Adobe Stock Photos ו-Freepik. רבות מהן נושאות את הכיתובים: "ילד סוריאליסטי במחנה פליטים"; "ילדים אסייתים שוחים בנהר מלא אשפה"; "מתנדב לבן המספק ייעוץ רפואי לילדים שחורים בכפר אפריקאי"; ועוד. אדובי מוכרת את הזכויות לשתי התמונות האחרונות ברשימה זו תמורת כ-60 פאונד.

"התמונות האלה גזעניות באופן בוטה ואסור לאפשר את פרסומן משום שהן מהוות את הסטריאוטיפים הגרועים ביותר על אפריקה, הודו או כל דבר אחר שתוכלו לחשוב עליו", אמר אלניצ'ב.

חואקין אבלה, מנכ"ל Freepik, אמר שהאחריות לשימוש בתמונות קיצוניות כאלה מוטלת על המשתמשים, ולא על פלטפורמות כמו שלו. לדעתו, תמונות סטוק מבוססות בינה מלאכותית נוצרות על ידי קהילה עולמית של משתמשים, שיכולים לקבל תמלוגים כאשר לקוחות Freepik בוחרים לקנות את התמונות שלהם.

פריפיק ניסתה לרסן את ההטיות שנמצאו בספריות התמונות שלה על ידי "הזרקת גיוון". במקביל, היא גם מנסה להבטיח איזון מגדרי בתמונות של עורכי דין ומנהלים.

אבל, הוא אומר, הפלטפורמה שלו יכולה לעשות רק עד גבול מסוים. "זה כמו לנסות לייבש את האוקיינוס. ניסינו, אבל המציאות היא שאם לקוחות בכל רחבי העולם רוצים שהתמונות שלהם ייראו בצורה מסוימת, אין שום דבר שמישהו יכול לעשות בנידון."

תמונה שנוצרה באמצעות בינה מלאכותית מקמפיין הצדקה Plan International נגד נישואי ילדים משנת 2023, שמטרתו להגן על "פרטיותן וכבודו של בנות". (צילום: Plan International)

ארגונים יוקרתיים רבים השתמשו בתמונות שנוצרו על ידי בינה מלאכותית, אפילו האומות המאוחדות.

בשנה שעברה, האו"ם פרסם סרטון ביוטיוב ובו "שחזורים" של אלימות מינית, כולל עדותה של אישה בורונדינית המתארת ​​​​שנאנסה והושארה למותה על ידי שלושה גברים בשנת 1993. התוכן נוצר כולו על ידי בינה מלאכותית. הסרטון הוסר לאחר שה"גרדיאן" יצר קשר עם האו"ם לראיון.

דובר האו"ם הסביר מאוחר יותר מדוע הסרטון הוסר. "אנו מאמינים שהסרטון נוצר בצורה לא נכונה על ידי בינה מלאכותית ועשוי להוות סיכונים בשלמות המידע, תוך שילוב של צילומים אמיתיים עם תוכן מלאכותי שנראה אמיתי."

מוצרים שנוצרו על ידי בינה מלאכותית התגלו זה מכבר כחקיינים, ולפעמים מגזימים עם האמת. מר אלניצ'ב אמר כי התפשטותן של תמונות מוטות אלו עלולה להחמיר את הבעיה, משום שהתמונות יכולות להתפשט ברחבי האינטרנט העצום ולהשתמש בהן לאימון הדור הבא של בינה מלאכותית.

דובר מטעם Plan International אמר כי הארגון "ממליץ כיום נגד שימוש בבינה מלאכותית כדי לתאר ילדים".

מין הואן

מקור: https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html