סרטון של חשד לבינה מלאכותית שמתחזה לאדם עם מוגבלות כדי למכור סחורות מעורר זעם

ברשתות החברתיות נחשפו סרטונים רבים של אנשים עם מוגבלויות המוכרים סחורות עם שלטים יוצאי דופן, מה שגרם לחוסר אמון בקהילה.

חשבון המשתמש בבינה מלאכותית כדי להתחזות למוכר. תמונה: טיקטוק .

עם הופעתן של סדרה של כלי בינה מלאכותית מתקדמים בתקופה האחרונה, יצירת תמונות וסרטונים הפכה לפשוטה הרבה יותר בעזרת מספר פקודות בלבד. עם זאת, היכולת של משתמשי האינטרנט להבחין בין אמיתי למזויף לא עמדה בקצב ההתפתחות הזו, ונוצלה על ידי נושאים מסוימים למטרות רווח.

לאחרונה, חשבון טיקטוק התפשט ברשתות החברתיות, ובו פורסם סדרת סרטונים על אישה ששתי זרועותיה נקטעות ונאלצת למכור סחורות כדי לפרנס את ילדיה הקטנים. בקטעים, אדם זה לובש בגדים פשוטים, מדבר באהדה ומציג מוצרים כמו מגבות נייר וחומר ניקוי.

על פי הרישומים, האישה שיתפה את מצבו של בעלה, בו נפטר בטרם עת כתוצאה מתאונה, לאחר שנאלץ לגדל ילד קטן לבדו, אך הסיפור לא היה עקבי בסרטונים. החשבון זכה ליותר ממיליוני צפיות ואינטראקציות, והגדיל את מספר העוקבים שלו ל-100,000 תוך 3 ימים מיום יצירת הערוץ. אנשים רבים הביעו אהדה, קראו לתמיכה ואף הזמינו מוצרים שיעזרו.

משתמשים ממשיכים לגלות חשבונות עם תוכן דומה. המשותף לערוצים אלה הוא שהם דפים אישיים שנוצרו לאחרונה, אין להם היסטוריית אינטראקציה אמיתית, ולעתים קרובות חולקים תוכן רגשי מדי.

ערוצים אלה לרוב חדשים ואין להם פרופיל ברור.

עם זאת, לאחר זמן מה, גולשים ברשת הבחינו במשהו יוצא דופן ולא קוהרנטי בכל סרטון. לדוגמה, זרועה הקטועה של האישה נראתה חלקה מאוד, צבע הקיר בבית היה שונה, או שהתינוק שכב דומם באופן חריג. הסיבה לכך הייתה שכל הסרטונים נוצרו על ידי בינה מלאכותית כדי להטעות אחרים.

ראוי לציין כי האזהרה או התגובות החשופות הוסתרו או נמחקו על ידי בעל החשבון. אנשים רבים חשו נעלבים מכך שהוטעו, כמו גם זעמו על התנהגותו של ניצול אהדת האנשים.

בנוסף, סרטונים מזויפים אלה משפיעים גם על הבעלים ואנשים עם מוגבלויות אחרים המתפרנסים מאותה פלטפורמה. גב' טראן טי נגה (בת 36) בפו טו , בעלת ערוץ נגה טיץ' קוק, נאלצה לדבר שוב ושוב על כך שבאמת יש לה יד קטועה.

בסוף שנת 2024, אדם זה חלה בדלקת שריר הלב נגיפית חריפה ונאלצה לכרות את כל גפיה, ולהתחיל חיים חדשים באהבת משפחתה. בשידור חי שנערך לאחרונה, היא הביעה את צערה על כך שהוטלו עליה ספקות ועל כך שספגה מילים קשות.

ערוצים חדשים אלה גם צברו במהירות מספר רב של עוקבים, מה שהקשה על הבידול. חשבון נוסף עם תוכן דומה בשם NLS גדל בכמעט 50,000 עוקבים לאחר סרטון אחד בלבד.

משתמשים הביעו זעם ואובדן אמון כאשר הוטעו.

לכן, לא ניתן להאשים את הקהילה המקוונת על כך שאיבדה בהדרגה את האמון במה שהיא רואה, וכך איבדה עוד אכפתיות לאלה שבאמת זקוקים לעזרה. תגובה אחת אמרה כי יש לגנות את אלה המשתמשים בטכנולוגיית בינה מלאכותית כדי לנצל את רגשות הקהילה.

תוכניות הונאת סייבר הופכות מתוחכמות יותר ויותר, ומכוונות לאנשים עם מעט קשר או קשישים. רוב בעלי החשבונות משתמשים בתמונות של אנשים הסובלים מטראומה, כמו אשפוז או נכות, ואז מצרפים עגלות קניות או משאירים מספרי חשבון כדי להתקשר לתמיכה.

בעבר, CNBC גילתה יותר מ-30 חשבונות אינסטגרם, יוטיוב וטיקטוק המשתמשים בבינה מלאכותית כדי לחקות אנשים עם תסמונת דאון. אנשים אלה השתמשו בסיפורים קורעי לב כדי למשוך עוקבים ולקרוא לגיוס כספים לקהילה, אך במציאות, הם ניכסו לעצמם את החשבונות.

התקרית מזהירה מפני האפשרות שיכולתה של בינה מלאכותית לשחזר תוכן מציאותי מנוצלת על ידי גורמים פושעים. ככל שהטכנולוגיה מתפתחת במהירות, על המשתמשים להפיץ אותה, וכן לסייע ליקיריהם להימנע מלהפוך לקורבנות של הונאות מקוונות.

מקור: https://znews.vn/video-nghi-ai-gia-nguoi-khuet-tat-ban-hang-gay-buc-xuc-post1598306.html