כשחיפשה שוב, היא הבינה שזו הייתה רק תמונה של בינה מלאכותית ששימשה דף פייסבוק כדי להמחיש פוסט סנטימנטלי. ראוי לציין שזו הייתה הפעם השנייה שהיא "כמעט" הוטעתה על ידי בינה מלאכותית. לפני כן, היא גם טעתה להבנת הסרטון "'גמלאים' פוגשים 'נופשי קיץ'" לאנשים אמיתיים ולאירועים אמיתיים.
גב' לין, שעבדה בתחום התקשורת ונחשפת באופן קבוע לתכני בינה מלאכותית, נאלצה להודות שהטכנולוגיה הזו התפתחה כל כך מהר ומתוחכם שקשה להבחין בין אמיתי למזויף.
גם מומחים מסכימים עם דעה זו. כלים כמו Google Veo 3, Kling AI, DALL·E 3, Midjourney... הגיעו ליכולת ליצור תמונות וסרטונים מציאותיים להפליא.
מר דו נהו לאם, מנהל הדרכה, מכון ABAII לטכנולוגיית בלוקצ'יין ובינה מלאכותית, ציין כי הודות לטכנולוגיה רב-מודאלית ומודלים של שפה מתקדמים, כלים אלה יכולים לסנכרן תמונות, צלילים, הבעות פנים ותנועות טבעיות, וליצור מוצרים משכנעים ביותר.
מר לאם ציין כי ההתקדמות של הבינה המלאכותית פותחת פוטנציאל גדול בתחומים כמו יצירת תוכן, פרסום, בידור וחינוך . עם זאת, יכולת "מציאותית" זו לשחזר מציבה גם אתגרים רבים בתחומי האתיקה, הבקרה ואבטחת המידע, שכן הגבול בין מציאות לווירטואליה הולך ומטשטש.
הפוסט בפייסבוק שגברת לין ראתה משך אליו כמעט 300,000 אינטראקציות ויותר מ-16,000 תגובות. משתמשים רבים מיהרו לברך או להביע את רגשותיהם מבלי לדעת שמדובר רק בדוגמה של בינה מלאכותית. אנשים "פיכחים" יותר ביקרו את "המשתמשים ברשת על היותם תמימים מדי" מכדי לתת לבינה מלאכותית להטעות אותם.
בקבוצות ופורומים בפייסבוק, לא קשה לראות סרטוני בינה מלאכותית שנוצרו ושותפו על ידי משתמשים. בפרט, הופעתו של Google Veo 3 שיפרה משמעותית את איכות הסרטונים, במיוחד את הקול שתואם את צורת הפה של הדמות. אם לא שמים לב וצופים היטב, הצופים עלולים להתבלבל בקלות.
להישאר שפויים בעידן הבינה המלאכותית
קשה להבחין בין תמונות וסרטונים שנוצרו על ידי בינה מלאכותית, ומהווים סיכונים גדולים למשתמשים, במיוחד לקבוצות פגיעות שאינן בקיאות בטכנולוגיה. לדברי מר וו טהאן טאנג - מנהל בינה מלאכותית (CAIO) בחברת SCS Cyber Security Joint Stock Company, בינה מלאכותית משמשת פושעי סייבר להונאה (עקיפת מערכות ביומטריות, eKYC...), התחזות לאנשים מפורסמים כדי להפיץ מידע כוזב, וגרימת בלבול ציבורי. ישנם מקרים רבים של פושעי היי-טק המנצלים את הבינה המלאכותית כדי ליצור תמונות דיפפייק, התחזות לקרובי משפחה כדי לבצע שיחות וידאו כדי להונות כסף.
לדברי מר טאנג, עסקים הם גם מטרות פוטנציאליות עבור פושעי בינה מלאכותית. הם יכולים להשתמש ב-Deepfake של בינה מלאכותית כדי להתחזות לעובדים, לעקוף מערכות אבטחה כדי לפתוח נוכחות, ולהתחזות למנהיגים עסקיים כדי להשמיץ ולהרוס מוניטין.
מר דו נהו לאם מ-ABAII, שחולק את אותה דעה, ציין שלוש השלכות שנגרמות על ידי בינה מלאכותית עבור משתמשים בודדים: הונאה פיננסית, פגיעה במוניטין וניצול מידע פרטי. עבור עסקים, חברת Arup הפסידה 25 מיליון דולר לאחר שעובדים בסניף שלה בהונג קונג הוטעו להשתתף בפגישת וידאו מזויפת ולהעביר כסף כמבוקש.
סיכון חמור לא פחות הוא שכאשר אנשים לא יוכלו להבחין בין אמיתי למזויף, אמון הציבור בתקשורת ובמקורות החדשות הרשמיים יישחק.
מר לאם ציטט דו"ח של מכון רויטרס לשנת 2024, המראה כי אחוז המשתמשים הגלובליים שסומכים על חדשות בפלטפורמות מדיה ירד לרמתו הנמוכה ביותר בעשור, בעיקר בשל הופעתם של תוכן מזויף עמוק.
לדברי המומחה וו טאן טאנג, "אנו נמצאים בעידן שבו כל מידע ניתן לזיוף והוא כבר אינו מהווה 'סיכון'". לכן, יש צורך להעלות את המודעות וליישם אמצעי הגנה אישיים, וללמוד על בינה מלאכותית כדי לחיות בשלום .
שני המומחים ממליצים למשתמשים תמיד לאמת ולאמת מידע לפני קבלת החלטות; לצייד את עצמם בידע לזיהוי תוכן מזויף; להגביל את שיתוף המידע האישי באינטרנט; ולדווח על מעשי הפצת תוכן מזויף. "רק על ידי היותו פרואקטיבי ובעל ידע יכולים משתמשים באמת להגן על עצמם ולתרום לבניית מרחב סייבר בטוח יותר בעידן הדיגיטלי", אמר מר לאם.
מקור: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html
תגובה (0)