פחד מהונאה עם יכולת יצירת תמונות ריאליסטית של ChatGPT

[מודעה_1]

ChatGPT "מצייר כמו תמונה"

ב-26 במרץ, קהילת משתמשי הבינה המלאכותית (AI) ברחבי העולם וגם בווייטנאם סערה כאשר OpenAI הוציאה רשמית את Images ב-ChatGPT, המתמקדת ביכולות יצירת תמונות עבור משתמשי המודל החכם של החברה. בעבר, ל-ChatGPT הייתה גם היכולת ליצור תמונות אך הייתה מוגבלת ונאלצה לעבור דרך מודל טקסט-לתמונה מפורסם אחר, DALL-E.

היכולת של הכלי להפוך טקסט לציורים ו"לשלב תמונות כמו פוטושופ" משכה במהירות תשומת לב. רבים אמרו שאיכות התמונה המופקת הייתה "מדהימה" ורובם דירגו אותה כ"עליונה" בהשוואה לדגמי בינה מלאכותית פופולריים בשוק.

ChatGPT יוצר כוסות קפה מציאותיות בעזרת פקודה פשוטה

לדברי גבריאל גו, ראש צוות מחקר ב-OpenAI, השיפור המשמעותי ביכולות יצירת התמונות של ChatGPT באמצעות מודל GPT-4o הוא "Binding" - מונח המתייחס למידה שבה מחולל התמונות של בינה מלאכותית שומר על הקשר בין מאפיינים לאובייקטים. מר גו טען כי GPT-4o יכול לקשר במדויק מאפיינים עבור 15-20 אובייקטים שונים ללא בלבול, ובכך לשפר משמעותית את הדיוק והאמינות של התוכן שנוצר.

לא רק ש-Images ב-ChatGPT מצטיינת ביכולתה ליצור תמונות, היא גם פותרת את החולשה ה"גורלית" של כלי בינה מלאכותית אחרים ליצירת תמונות, שהיא הצגת כיתוב וטקסט בתוך התמונה. למעשה, תמונות רבות המכילות טקסט מוצגות במדויק, מה שמקשה על ההבחנה בין תמונה מזויפת לאמיתית.

החיסרון של כלי זה הוא שלוקח זמן רב ליצור תמונות, אך זה נחשב סביר מכיוון שהעיכוב נוצר מכיוון שתמונות באיכות טובה, פרטים מדויקים והתאמה לתיאור המשתמש תמיד דורשות סבלנות. צוות המחקר אמר שבעיית העיכוב תשתפר בעתיד.

חששות רבים לגבי היכולת לשלב תמונות

בנוסף לכיף בחוויה הראשונית שמביאים ChatGPT ו-OpenAI למשתמשים, נושא אבטחת המידע, הפרטיות וגם הסיכון לניצול חוזרים לקדמת הבמה. "בעתיד הקרוב, התמונות שאתם רואים באינטרנט אינן בהכרח אמיתיות", הביע משתמש פייסבוק בווייטנאם דאגה כאשר יוכל לבקש מ-ChatGPT ליצור תמונות לא מציאותיות לחלוטין אך נראות אמיתיות כמו תמונות, למשל, תמונה של השחקן והמתאבק לשעבר דוויין ג'ונסון (The Rock) שמפרסם מותג מסטיקים, או תמונה של חתול קליקו יושב על הכיריים ונראה בדיוק כמו תמונה.

Người dùng hào hứng xen lẫn lo ngại vì khả năng tạo ảnh của ChatGPT - Ảnh 1. — בעזרת פקודות מפורטות המסופקות, משתמשים יכולים ליצור תוצאות מפתיעות מבלי להזדקק לידע מעמיק בשימוש בכלי עריכת תמונות מסורתיים.

אנשים רבים אף ניסו את יכולת ה"הפשטה" של הכלי החדש. TN ( האנוי ) אמר שהוא השתמש בתמונת דוגמן שנלקחה מהאינטרנט כדי לבקש מ-ChatGPT להחליף בגדים כמבוקש וכמעט כל הפקודות נענו בדיוק רב. "עם זאת, עדיין היו כמה פעמים של דחייה, בעיקר עקב הפרות של מדיניות המערכת בנוגע ליצירת תמונות המוגנות בזכויות יוצרים או תוכן סקסי מדי", שיתף TN.

בבדיקות של Thanh Nien , ChatGPT סירבה ליצור תמונות הקשורות לדמויות מפורסמות או דמויות המוגנות בזכויות יוצרים בעולם האמיתי או בסרטים ובסיפורים. "אני לא יכולה ליצור את התמונה כפי שביקשת מכיוון שתמונת ההפניה ששלחת מראה בבירור את הדמות דוקטור סטריינג' - דמות המוגנת בזכויות יוצרים של Marvel וזה מפר את מדיניות התוכן הנוכחית", השיבה המערכת כאשר התבקשה ליצור תמונה של דוקטור סטריינג' יושב... שותה תה קר בווייטנאם.

ג'קי שאנון, ראש תחום מוצרים רב-מודאליים ב-ChatGPT, אישרה כי לתמונות ב-ChatGPT יש הגנה חזקה מפני תוכן דיפפייק, פורנוגרפי או הונאה. ראוי לציין כי התמונות שנוצרו ישלבו מטא-דאטה סטנדרטי של C2PA כדי לסמן אותן כמוצרי בינה מלאכותית, אך נדרשות כלים נפרדים לבדיקה.

עם זאת, עדיין ישנם אנשים רבים שמצליחים "לכופף את החוק" ומשתמשים בתמונות של אנשים מפורסמים כדי להכניס אותן למטרות בידור. לדוגמה, התמונה של המנכ"ל טים קוק אוחז בטלפון סמסונג במקום אייפון, או התמונה של השחקן רוברט דאוני ג'וניור לועס סוכריית ירקות, או התמונה של כריסטיאנו רונאלדו נלחם על כדור עם ליונל מסי בסמטה קטנה בווייטנאם מול אנשים רבים...

[מודעה_2]
מקור: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm