הסכנות של טכנולוגיית יצירת התמונות החדשה של ChatGPT בזיוף קבלות.

(CLO) ChatGPT השיקה לאחרונה כלי חדש ליצירת תמונות המשולב במודל GPT-4o, עם יכולות מעולות של יצירת טקסט בתוך תמונה.

עם זאת, משתמשים גילו במהרה כי ניתן לנצל לרעה תכונה זו כדי לזייף חשבונות של מסעדות.

המשקיע דידי דאס פרסם ב-X תמונה של קבלה מזויפת ממסעדת סטייקים בסן פרנסיסקו, בטענה שהתמונה נוצרה באמצעות GPT-4o.

המשקיע דידי שיתף את התמונה בפלטפורמת המדיה החברתית X.

משתמשים רבים אחרים גם הם הצליחו לשחזר את האפקט, ואף הוסיפו כתמי אוכל ושתייה כדי לשפר את הריאליזם.

משתמש אחר שיתף תמונה של קבלה עם כתמי אוכל שנראתה מציאותית מאוד, אך גם היא נוצרה על ידי ChatGPT.

או, לדוגמה, משתמש בצרפת פרסם קבלה מזויפת ומקומטת מרשת מסעדות מקומית.

התמונה שותפה על ידי משתמש בצרפת.

רבים אחרים בדקו את התכונה החדשה וגם יצרו קבלות מזויפות עבור חנויות, אך עדיין יש סתירות בתמונות כגון: פסיקים במקום נקודות בסכום הכולל; חישובים שגויים (נקודת תורפה של בינה מלאכותית בחישובים בסיסיים).

עם זאת, גורמים זדוניים יכולים לתקן זאת בקלות על ידי ביצוע עריכות פשוטות באמצעות תוכנה או שינוי פקודות (הנחיות).

הקלות שבה ניתן ליצור חשבוניות מזויפות פותחת סיכונים משמעותיים, כגון החזרים מזויפים עבור הוצאות שאינן קיימות.

בתגובה לבעיה זו, OpenAI הצהירה שכל התמונות שנוצרו על ידי בינה מלאכותית מכילות מטא-דאטה המאשר את מקורן ב-ChatGPT. החברה גם "נוקטת פעולה" כאשר משתמשים מפרים את מדיניותה ו"לומדת באופן רציף" ממשוב מהעולם האמיתי.

כשנשאלה לגבי מתן היתר ליצירת חשבוניות מזויפות, דוברת OpenAI, טאיה כריסטיאנסון, הסבירה כי המטרה היא "מקסום החופש היצירתי", והציעה כי ניתן להשתמש בחשבוניות מזויפות למטרות חינוך פיננסי, אמנות או פרסום.

זו לא הפעם הראשונה שבינה מלאכותית מנוצלת. בעבר, MidJourney ו-DALL-E שימשו ליצירת תמונות מזויפות של מסמכים, תעודות זהות ואפילו כסף מזויף.

קאו פונג (על פי TC, MSB)

מקור: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html