פחד מהונאה עם יכולת יצירת תמונות ריאליסטית של ChatGPT

[מודעה_1]

ChatGPT "מצייר כמו תמונה"

ב-26 במרץ, קהילת משתמשי הבינה המלאכותית (AI) ברחבי העולם וגם בווייטנאם סערה כאשר OpenAI פרסמה רשמית את Images ב-ChatGPT, המתמקד ביכולות יצירת תמונות עבור משתמשי המודל החכם של החברה. בעבר, ל-ChatGPT הייתה גם היכולת ליצור תמונות אך הייתה מוגבלת ונאלצה לעבור דרך מודל טקסט-לתמונה מפורסם אחר, DALL-E.

היכולת של הכלי להפוך טקסט לציורים ו"לשלב תמונות כמו פוטושופ" משכה במהירות תשומת לב. רבים אמרו שאיכות התמונה המופקת הייתה "מדהימה" ורובם דירגו אותה כ"עליונה" בהשוואה לדגמי בינה מלאכותית פופולריים בשוק.

ChatGPT יוצר כוסות קפה מציאותיות בעזרת פקודה פשוטה

לדברי גבריאל גו, ראש צוות מחקר ב-OpenAI, השיפור המשמעותי ביכולות יצירת התמונות של ChatGPT באמצעות מודל GPT-4o הוא "Binding" - מונח המתייחס למידה שבה מחולל התמונות של בינה מלאכותית שומר על הקשר בין מאפיינים לאובייקטים. מר גו טען כי GPT-4o יכול לקשר במדויק מאפיינים עבור 15-20 אובייקטים שונים ללא בלבול, ובכך לשפר משמעותית את הדיוק והאמינות של התוכן שנוצר.

לא רק ש-Images ב-ChatGPT מצטיין ביכולת יצירת התמונות שלו, הוא גם פותר את החולשה ה"גורלית" של כלי בינה מלאכותית אחרים ליצירת תמונות, שהיא הצגת כיתוב וטקסט בתוך התמונה. למעשה, תמונות רבות המכילות טקסט מוצגות במדויק, מה שמקשה עוד יותר על ההבחנה בין תמונה מזויפת לאמיתית.

החיסרון של כלי זה הוא שלוקח זמן רב ליצור תמונות, אך זה נחשב סביר מכיוון שהעיכוב נוצר מכיוון שתמונות באיכות טובה, פרטים מדויקים והתאמה לתיאור המשתמש תמיד דורשות סבלנות. צוות המחקר אמר שבעיית העיכוב תשתפר בעתיד.

חששות רבים לגבי היכולת לשלב תמונות

בנוסף לכיף בחוויה הראשונית שמביאים ChatGPT ו-OpenAI למשתמשים, נושא אבטחת המידע, הפרטיות וגם הסיכון לניצול חוזרים לקדמת הבמה. "בעתיד הקרוב, התמונות שאתם רואים באינטרנט לא בהכרח יהיו אמיתיות", הביע משתמש פייסבוק בווייטנאם דאגה כאשר יוכל לבקש מ-ChatGPT ליצור תמונות לא מציאותיות לחלוטין שנראות אמיתיות כמו תמונות, למשל, תמונה של השחקן והמתאבק לשעבר דוויין ג'ונסון (The Rock) שמפרסם מותג מסטיקים, או תמונה של חתול קליקו יושב על הכיריים ונראה בדיוק כמו תמונה.

Người dùng hào hứng xen lẫn lo ngại vì khả năng tạo ảnh của ChatGPT - Ảnh 1. — בעזרת פקודות מפורטות המסופקות, משתמשים יכולים ליצור תוצאות מפתיעות מבלי להזדקק לידע מעמיק בשימוש בכלי עריכת תמונות מסורתיים.

אנשים רבים אף ניסו את יכולת ה"הפשטה" של הכלי החדש. TN ( האנוי ) אמר שהוא השתמש בתמונת דוגמן שנלקחה מהאינטרנט כדי לבקש מ-ChatGPT להחליף בגדים כמבוקש וכמעט כל ההזמנות נענו בדיוק רב. "עם זאת, עדיין היו כמה דחיות, בעיקר עקב הפרות של מדיניות המערכת בנוגע ליצירת תמונות המוגנות בזכויות יוצרים או תוכן סקסי מדי", שיתף TN.

בבדיקות של Thanh Nien , ChatGPT סירבה ליצור תמונות הקשורות לדמויות מפורסמות או דמויות המוגנות בזכויות יוצרים בעולם האמיתי או בסרטים ובסיפורים. "אני לא יכולה ליצור את התמונה כפי שביקשת מכיוון שתמונת ההפניה ששלחת מראה בבירור את הדמות דוקטור סטריינג' - דמות המוגנת בזכויות יוצרים של Marvel וזה מפר את מדיניות התוכן הנוכחית", השיבה המערכת כאשר התבקשה ליצור תמונה של דוקטור סטריינג' יושב... שותה תה קר בווייטנאם.

ג'קי שאנון, ראש תחום מוצרים רב-מודאליים ב-ChatGPT, אישרה כי לתמונות ב-ChatGPT יש הגנה חזקה מפני תוכן דיפפייק, פורנוגרפי או הונאה. ראוי לציין כי התמונות שנוצרו ישלבו מטא-דאטה סטנדרטי של C2PA כדי לסמן אותן כמוצרי בינה מלאכותית, אך נדרשות כלים נפרדים לבדיקה.

עם זאת, עדיין ישנם אנשים רבים שמצליחים "לכופף את החוק" ומשתמשים בתמונות של אנשים מפורסמים למטרות בידור. לדוגמה, תמונתו של המנכ"ל טים קוק אוחז בטלפון סמסונג במקום באייפון, או תמונתו של השחקן רוברט דאוני ג'וניור לועס סוכריית ירקות, או תמונתו של כריסטיאנו רונאלדו משחק כדור עם ליונל מסי בסמטה קטנה בווייטנאם מול אנשים רבים...

[מודעה_2]
מקור: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm