תעשיית הטכנולוגיה מבקשת לזהות תמונות שנוצרו על ידי בינה מלאכותית

[מודעה_1]

מנכ"ל Truepic, ג'פרי מקגרגור, אמר שהתקרית הייתה רק קצה הקרחון. "יהיה יותר תוכן שנוצר על ידי בינה מלאכותית ברשתות החברתיות ואנחנו לא מוכנים לזה", אמר מקגרגור.

לפי CNN, Truepic רוצה לפתור את הבעיה הזו על ידי אספקת טכנולוגיה הטוענת לאימות מדיה בזמן יצירתה באמצעות Truepic Lens. אפליקציית איסוף הנתונים תספר למשתמשים את התאריך, השעה, המיקום והמכשיר בו נעשה שימוש ליצירת התמונה, ותחיל חתימה דיגיטלית כדי לאמת האם התמונה טבעית או שנוצרה על ידי בינה מלאכותית.

תמונה מזויפת של פיצוץ הפנטגון הפכה ויראלית בטוויטר

Truepic, חברה הנתמכת על ידי מיקרוסופט שנוסדה בשנת 2015, מסרה כי החברה רואה עניין מצד ארגונים לא ממשלתיים ועד חברות מדיה, ואפילו מצד חברות ביטוח המבקשות לאשר שהתביעות לגיטימיות.

מקגרגור אומר שכאשר הכל ניתן לזיוף, כאשר הבינה המלאכותית הגיעה לשיאה באיכותה ובנגישותה, אנחנו כבר לא יודעים מהי המציאות המקוונת.

חברות טכנולוגיה כמו Truepic פועלות כבר שנים למאבק במידע שגוי ברשת. אך עלייתם של כלי בינה מלאכותית חדשים שיכולים לייצר תמונות וטקסט לפי פקודת המשתמש הוסיפה דחיפות. מוקדם יותר השנה, תמונות מזויפות של האפיפיור פרנציסקוס בז'קט פוך של בלנסיאגה ושל נשיא ארה"ב לשעבר דונלד טראמפ במעצר הופצו באופן נרחב. שני המקרים הותירו מיליוני אנשים מבולבלים לגבי הסכנות הפוטנציאליות של בינה מלאכותית.

חלק מהמחוקקים קוראים כעת לחברות טכנולוגיה לטפל בנושא על ידי תיוג תוכן שנוצר על ידי בינה מלאכותית. סגנית נשיא הנציבות האירופית (EC) ורה ז'ורובה אמרה שחברות כמו גוגל, מטה, מיקרוסופט וטיקטוק הצטרפו לקוד הנוהג הוולונטרי של האיחוד האירופי (EU) למאבק בדיסאינפורמציה.

מספר גדל והולך של סטארט-אפים וענקיות טכנולוגיה, כולל כאלה המיישמים בינה מלאכותית גנרטיבית במוצרים שלהם, מנסים ליישם סטנדרטים ופתרונות שיעזרו לאנשים לקבוע אם תמונה או סרטון נוצרו באמצעות בינה מלאכותית.

אבל ככל שטכנולוגיית הבינה המלאכותית מתקדמת מהר יותר ממה שבני אדם יכולים לעמוד בקצב, לא ברור אם פתרונות אלה יכולים לפתור את הבעיה במלואה. אפילו OpenAI, החברה שעומדת מאחורי Dall-E ו-ChatGPT, הודתה שמאמציה שלה לסייע בזיהוי כתיבה שנוצרה על ידי בינה מלאכותית אינם מושלמים.

חברות המפתחות פתרונות נוקטות בשתי גישות לבעיה. הראשונה מסתמכת על פיתוח תוכנות לזיהוי תמונות שנוצרו על ידי בינה מלאכותית לאחר שהופקו ושותפו באינטרנט. השנייה מתמקדת בסימון תמונה כאמיתית או שנוצרה על ידי בינה מלאכותית באמצעות סוג של חתימה דיגיטלית.

Reality Defender ו-Hive Moderation עובדות על הראשון. בעזרת הפלטפורמה שלהן, משתמשים יכולים להעלות תמונות לסריקה ולאחר מכן לקבל פירוט המציג אחוזים של האם התמונה אמיתית או נוצרה על ידי בינה מלאכותית.

חברת Reality Defender מסרה כי היא משתמשת בטכנולוגיית דיפפייק וטכנולוגיית טביעות אצבע קניינית של תוכן גנרי כדי לזהות וידאו, אודיו ותמונות שנוצרו על ידי בינה מלאכותית. בדוגמה שסיפקה החברה, Reality Defender הציגה תמונה דיפפייק של טום קרוז שהייתה "חשודה" ב-53% מכיוון שלאדם בתמונה היו פנים מעוותות שנראות לעתים קרובות בתמונות מניפולטיביות.

תמונות מתויגות שנוצרו על ידי בינה מלאכותית

שירותים אלה מציעים גרסאות חינמיות ותשלום. Hive Moderation אומרת שהיא גובה 1.50 דולר לכל 1,000 תמונות. Realty Defender אומרת שהתמחור שלה יכול להשתנות בהתאם למגוון גורמים, במקרים בהם לקוחות זקוקים למומחיות ולתמיכת החברה. מנכ"ל Reality Defender, בן קולמן, אומר שהסיכון מוכפל מדי חודש מכיוון שכל אחד יכול ליצור תמונות מזויפות באמצעות כלי בינה מלאכותית.

מספר חברות נוספות עובדות על הוספת סוג של תווית לתמונות כדי לאשר האם הן אמיתיות או שנוצרו על ידי בינה מלאכותית. עד כה, המאמץ הונע בעיקר על ידי ארגון Content Authenticity and Origination Alliance (C2PA).

C2PA נוסדה בשנת 2021 במטרה ליצור תקן טכני לאישור המקור וההיסטוריה של מדיה דיגיטלית, המשלב את יוזמת אימות התוכן (CAI) של אדובי ואת פרויקט Origin, בהובלת מיקרוסופט וה-BBC, תוך התמקדות במאבק במידע שגוי בחדשות דיגיטליות. חברות נוספות המעורבות ב-C2PA כוללות את Truepic, Intel ו-Sony.

בהתבסס על עקרונות C2PA, CAI תשחרר כלים בקוד פתוח עבור חברות ליצירת אישורי תוכן, או מטא-דאטה, המכילים מידע על תמונות. על פי אתר האינטרנט של CAI, זה מאפשר ליוצרים לשתף באופן שקוף פרטים על האופן שבו הם יצרו תמונה. בדרך זו, משתמשי הקצה יכולים לגשת להקשר סביב מי, מה וכיצד תמונה שונתה - ולאחר מכן לשפוט בעצמם עד כמה התמונה אותנטית.

חברות רבות כבר שילבו את תקן C2PA ואת כלי CAI ביישומים שלהן. Firefly של אדובי, כלי הדמיה חדש מבוסס בינה מלאכותית שנוסף לפוטושופ, עומד בתקן C2PA באמצעות תכונת אישורי התוכן שלו. מיקרוסופט גם הודיעה כי תמונות וסרטונים שנוצרו באמצעות Bing Image Creator ו-Microsoft Designer יישאו חתימות קריפטוגרפיות בחודשים הקרובים.

במאי, גוגל הכריזה על התכונה "אודות תמונה זו", המאפשרת למשתמשים לראות מתי תמונה הופיעה לראשונה בגוגל והיכן ניתן לראות אותה. ענקית החיפוש הודיעה גם שכל תמונה שנוצרה על ידי בינה מלאכותית של גוגל תישא סימון בקובץ המקורי כדי "להוסיף הקשר" אם התמונה נמצאת באתר או בפלטפורמה אחרים.

בעוד שחברות טכנולוגיה מנסות לטפל בחששות בנוגע לתמונות שנוצרות על ידי בינה מלאכותית ולשלמות המדיה הדיגיטלית, מומחים בתחום מדגישים כי עסקים יצטרכו לעבוד יחד זה עם זה ועם ממשלות כדי לטפל בבעיה. עם זאת, חברות טכנולוגיה ממהרות לפתח בינה מלאכותית למרות הסיכונים.

[מודעה_2]
קישור למקור