אודיו דיפפייק, דאגה חדשה לגבי מידע שגוי

[מודעה_1]

משרד התובע הכללי של ניו המפשייר הודיע ביום שני כי הוא חוקר אפשרות של מניפולציה של מצביעים לאחר תלונות על קול מזויף שנשמע בדיוק כמו נשיא ארה"ב ג'ו ביידן שקרא לבוחרים לא להצביע בבחירות המקדימות במדינה.

חוקרים הזהירו גם מפני שימוש באודיו דיפפייק כדי לחקות פוליטיקאים ומנהיגים, כאשר מקרים בולטים התרחשו בשנת 2023 בבריטניה, הודו, ניגריה, סודן, אתיופיה וסלובקיה.

דיפפייק אודיו חדש מידע חדש תמונה כוזבת 1 — אדם מצביע בבחירות המקדימות בניו המפשייר, ארה"ב. צילום: Getty

שמע דיפפייק הפך לצורה פופולרית של מידע שגוי עקב הופעתם של מגוון כלי בינה מלאכותית זולים ויעילים מצד סטארט-אפים, על פי מומחים. מיקרוסופט פיתחה גם מודל בינה מלאכותית חדש שיכול להעתיק קולות מתוך שלוש שניות בלבד של הקלטה.

"כשמדובר במניפולציה חזותית, כולם מכירים את פוטושופ או לפחות יודעים שהיא קיימת", אמר הנרי אג'דר, מומחה לבינה מלאכותית ודיפפייקים ויועץ באדובי, מטא ו-EY. "יש מעט מאוד מודעות לאופן שבו ניתן לתמרן אודיו, אז מבחינתי זה באמת משאיר אותנו פגיעים".

בספטמבר, NewsGuard, מערכת המדרגת את האיכות והאמינות של אתרי חדשות, גילתה רשת של חשבונות טיקטוק המחופשים לאתרי חדשות לגיטימיים, תוך שימוש בתוכן שנוצר על ידי בינה מלאכותית כדי להפיץ תיאוריות קונספירציה ומידע פוליטי מוטעה. הקלטות דיפפייק, כולל קולו של נשיא ארה"ב לשעבר ברק אובמה, צברו מאות מיליוני צפיות.

נראה כי הקריינות המזויפת נוצרה על ידי כלי שסופק על ידי ElevenLabs, הנתמך על ידי אנדרסן הורוביץ, בעוד שהקליפים צברו מאות מיליוני צפיות, מסר NewsGuard.

"מעל 99% מהמשתמשים בפלטפורמה שלנו יוצרים תוכן מעניין, יצירתי ושימושי, אך אנו מכירים בכך שישנם מקרים של שימוש לרעה ופיתחנו והכנסנו באופן רציף הגנות כדי להגביל אותן", מסרה ElevenLabs.

ElevenLabs, שנוסדה לפני שנתיים על ידי פיוטר דבקובסקי ומאטי סטניסבסקי, עובדים לשעבר של גוגל ופלנטיר, מציעה כלי יצירת אודיו מבוססי בינה מלאכותית בסיסיים בחינם בלחיצה אחת. תוכניות המנוי נעות בין דולר אחד לחודש ל-330 דולר לחודש ומעלה עבור אלו המחפשים שירותים מורכבים יותר.

בשנה שעברה, סוכנויות מודיעין אמריקאיות הזהירו בדו"ח כי "הונאות בינה מלאכותית מותאמות אישית גדלו משמעותית עקב שחרורם של מודלים מתוחכמים ומאומנים היטב לשכפול קולי באמצעות בינה מלאכותית".

בנוסף להונאות ממניעים כלכליים, מומחים פוליטיים משמיעים כעת אזעקה מפני קטעי אודיו ויראליים של דיפפייק, כמו גם מפני שימוש בדיפפייקס עבור שיחות רובוטיות או קמפיינים. "ניתן לבנות קמפיין דיסאינפורמציה רב עוצמה ונרחבת על ידי מיקוד בטלפונים", אמר איי ג'יי נאש, סגן נשיא ועמית מודיעין בכיר בקבוצת הסייבר-אבטחת ZeroFox.

חלק מהחברות הללו היו פרואקטיביות במציאת דרכים אחרות להילחם במידע שגוי. מיקרוסופט פרסמה הצהרה אתית, וקראה למשתמשים לדווח על כל שימוש לרעה בכלי האודיו הבינה המלאכותית שלה. ElevenLabs בנתה כלי זיהוי משלה כדי לזהות הקלטות אודיו שנוצרו על ידי המערכת שלה.

במהלך בחירות 2023 בניגריה, סרטון שעבר מניפולציות על ידי בינה מלאכותית הפך ויראלי ברשתות החברתיות "כביכול לרמוז שמועמד אופוזיציה תכנן לזייף את ההצבעה", על פי ארגון זכויות האדם Freedom House.

בסלובקיה, הקלטה מזויפת של מועמדת האופוזיציה מיכל שימצ'קה, שככל הנראה מתכננת לזייף את הבחירות, הפכה ויראלית ימים ספורים לפני הבחירות לנשיאות במדינה בספטמבר.

"הזיוף העמוק של ניו המפשייר הוא תזכורת לדרכים הרבות בהן זיופים עמוקים יכולים לבלבל ולרמות", אמר רוברט וייסמן, נשיא ארגון הסברה לצרכנים ללא מטרות רווח, Public Citizen. "רגע הזיופים העמוקים הפוליטיים הגיע. קובעי המדיניות חייבים לפעול במהירות כדי להציב אמצעי הגנה, אחרת נעמוד בפני כאוס אלקטורלי."

מאי אן (לפי ה-FT)

[מודעה_2]
מָקוֹר