חששות לגבי הונאות הנובעות מיכולתו של ChatGPT ליצור תמונות ריאליסטיות.

ChatGPT "מצייר כמו תצלום"

ב-26 במרץ, קהילות משתמשי הבינה המלאכותית העולמיות והווייטנאמיות היו סוערות כאשר OpenAI הוציאה רשמית את Images in ChatGPT, כלי המתמקד ביצירת תמונות, עבור משתמשי המודל החכם שלה. בעבר, ל-ChatGPT היו גם יכולות יצירת תמונות, אך אלו היו מוגבלות והסתמכו על מודל טקסט-לתמונה ידוע אחר בשם DALL-E.

היכולת של הכלי להפוך טקסט לציורים ולבצע "מיזוג תמונות באיכות פוטושופ" משכה במהירות תשומת לב. משתמשים רבים דיווחו על איכות התמונה המופקת כ"מדהימה", כאשר רובם דירגו אותה כ"עליונה" על פני דגמי בינה מלאכותית פופולריים אחרים בשוק.

ChatGPT יוצר תמונות ריאליסטיות של כוס קפה בעזרת פקודה פשוטה.

לדברי גבריאל גו, ראש מחלקת המחקר ב-OpenAI, השיפור המשמעותי ביכולות יצירת התמונות של ChatGPT באמצעות מודל GPT-4o הוא "Binding" - מונח המתייחס למידה שבה מחולל התמונות של הבינה המלאכותית שומר על קישורים בין מאפיינים לאובייקטים. גו טוען ש-GPT-4o יכול לקשר במדויק מאפיינים עבור 15-20 אובייקטים שונים ללא שגיאות, ובכך לשפר משמעותית את הדיוק והאמינות של התוכן שנוצר.

לא רק שתמונות ב-ChatGPT מצטיינות ביצירת תמונות, אלא גם מטפלות בחולשה קריטית בכלים אחרים ליצירת תמונות מבוססות בינה מלאכותית: עיבוד טקסט בתוך תמונות. למעשה, תמונות רבות המכילות טקסט מעובדות בצורה מדויקת, מה שמקשה יותר ויותר על ההבחנה בין תמונות אמיתיות לתמונות מזויפות.

החיסרון של הכלי הוא זמן יצירת התמונה הארוך יחסית, אך זה נחשב סביר מכיוון שהעיכוב נובע מהעובדה שתמונות באיכות גבוהה עם פרטים מדויקים ותואמות את תיאור המשתמש תמיד דורשות סבלנות. צוות המחקר ציין כי בעיית העיכוב תשתפר בעתיד.

הועלו חששות רבים בנוגע לאפשרות של מניפולציה של תמונות.

מעבר להנאה הראשונית שמציעות למשתמשים ChatGPT ו-OpenAI, חששות בנוגע לאבטחת מידע, פרטיות וסיכון לניצול עלו שוב לקדמת הבמה. "בקרוב, התמונות שאתם רואים באינטרנט לא בהכרח אמיתיות", הביע משתמש פייסבוק בווייטנאם את דאגתו, שכן הוא עלול לבקש מ-ChatGPT ליצור תמונות מפוברקות לחלוטין שנראות מציאותיות כמו תצלומים, למשל, תמונה של השחקן והמתאבק לשעבר דוויין ג'ונסון ("The Rock") המפרסם מותג מסטיקים, או חתול קליקו יושב על כיריים ונראה בדיוק כמו תצלום.

בעזרת פקודות מפורטות המסופקות, משתמשים יכולים ליצור תוצאות מפתיעות מבלי להזדקק לידע מעמיק בכלי עריכת תמונות מסורתיים.

למעשה, אנשים רבים אף ניסו את תכונת ה"התפשטות" של הכלי החדש. TN ( האנוי ) אמרה שהיא השתמשה בתמונה של דוגמנית מהאינטרנט כדי לבקש מ-ChatGPT להחליף את בגדיה כמבוקש, וכמעט כל הבקשות נענו בדיוק רב. "עם זאת, היו כמה מקרים שבהם בקשות נדחו, בעיקר עקב הפרות של מדיניות המערכת בנוגע ליצירת תמונות המוגנות בזכויות יוצרים או תוכן מרמז יתר על המידה", שיתפה TN.

בבדיקות שערך העיתון Thanh Nien , ChatGPT סירב ליצור תמונות הקשורות לדמויות מפורסמות או דמויות המוגנות בזכויות יוצרים בעולם האמיתי או בסרטים ובקומיקס. "אני לא יכול ליצור את התמונה כמבוקש מכיוון שתמונת ההפניה ששלחתם מראה בבירור את דוקטור סטריינג' - דמות המוגנת בזכויות יוצרים של מארוול - וזה מפר את מדיניות התוכן הנוכחית שלנו", הגיבה המערכת כאשר התבקשה ליצור תמונה של דוקטור סטריינג' יושב... שותה תה קר בווייטנאם.

ג'קי שאנון, ראש תחום המוצר הרב-מודאלי ב-ChatGPT, מאשרת שתמונות ב-ChatGPT מציעות הגנה חזקה מפני תוכן דיפפייק, פורנוגרפי או הונאה. ראוי לציין שהתמונות שנוצרו משלבות מטא-נתונים סטנדרטיים של C2PA כדי לזהות אותן כמוצרי בינה מלאכותית, אך דורשות כלי נפרד לאימות.

עם זאת, אנשים רבים עדיין מצליחים "לעקוף את הכללים" ומשתמשים בתמונות של ידוענים למטרות בידור. לדוגמה, תמונה של המנכ"ל טים קוק אוחז בטלפון סמסונג במקום באייפון, או תמונה של השחקן רוברט דאוני ג'וניור לועס ממתק ירקות, או סדרת ציורים של כריסטיאנו רונאלדו וליונל מסי מתחרים על כדור בסמטה קטנה בווייטנאם מול צופים רבים...

מקור: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm