בכל פעם שאני גולש באינטרנט אני רואה סרטונים מצחיקים ומטופשים שנוצרו על ידי בינה מלאכותית.

בכל מקום שאני גולש, אני רואה הומור חסר משמעות מ-Veo 3.

לאחרונה, משתמשי מדיה חברתית, ובמיוחד טיקטוק, נתקלים ללא הרף בסרטוני "קומדיה" שנוצרו על ידי כלי Veo 3. למרות שרובם מבדרים, רבים מהתכנים החלו לסטות מהנורמה ולגרום למחלוקת.

"בכל פעם שאני פותחת טיקטוק, אני רואה סרטונים מצחיקים עם מוטיבים מוכרים, כמו אישה זקנה שנושאת חזיר למכירה כי היא אכלה יותר מדי וישנה יותר מדי", שיתפה הויין מאי (בת 20).

Cứ lướt mạng lại thấy video hài nhảm do AI tạo ra - 1 — הוין מאי אמרה שהטיקטוק שלה מלא בסרטוני "קומדיה" שנוצרו על ידי Veo 3 (תמונה: צילום מסך).

מאי שיתפה שסרטונים דומים הופיעו בתדירות גבוהה יותר ויותר, מה שגרם לה להרגיש לא בנוח ולחשוב שהסרטונים האלה נועדו רק למטרות "פיתיון צפיות", ולא להביא שום ערך לצופים.

מאי אמרה שהיא נתקלה לעתים קרובות בסרטונים שליליים או פוגעניים בפיד החדשות שלה: "ערוצי טיקטוק רבים יוצרים סרטונים על מצבים בדיוניים ועד סיפורים אמיתיים המשלבים אלמנטים מגונים, פוגעניים ומידע כוזב רק כדי למשוך צפיות."

Cứ lướt mạng lại thấy video hài nhảm do AI tạo ra - 2 — סדרה של תוכן פוגעני ומזעזע נוצרה במטרה "למשוך צפיות" (צילום: צילום מסך).

כמו סיפורו של הויין מאי, גם הואנג אן (בן 20) הביע לאחרונה את תסכוליו. הוא אמר ש-Veo 3 מביא תמונות ותוכן ריאליסטיים מאוד, וסרטונים רבים נוצרים עם תוכן מעניין ומשעשע.

אבל לאחר זמן מה, הוא שם לב שבהדרגה, סרטונים עם נטייה להיות "שליליים" ו"מזעזעים כדי למשוך צפיות" הופיעו לעתים קרובות יותר במקום להתמקד בערכים חיוביים.

"סטודנט קם וקילל, זה היה אחד הסרטונים שיצר Veo 3 שצפיתי בהם לאחרונה. תהיתי מדוע יש תוכן כל כך פוגעני ברשתות החברתיות, במיוחד בתקופה של מבחנים חשובים ביותר", התוודה הואנג אן.

Cứ lướt mạng lại thấy video hài nhảm do AI tạo ra - 3 — סרטונים רבים שנוצרו על ידי בינה מלאכותית עם שפה ותוכן לא הולמים מופיעים לעתים קרובות ברשתות חברתיות (תמונה: צילום מסך).

מדאיג עוד יותר, חלק מהסרטונים משתמשים בתמונות של דמויות ובקולות של ילדים כדי לומר משפטים רגישים ולא אתיים, אך עדיין מושכים אלפי אינטראקציות מהקהילה המקוונת.

בנוסף, משתמשי Veo 3 רבים יוצרים גם מצבים לקידום התנהגויות סוטות במסווה של תוכן בידורי בלבד.

בדרך כלל, אפליקציות ואתרים מסוימים, כגון הימורים והימורים, יוצרים באופן בוטה סרטוני קידום מכירות לצופים, ומפיצים אותם בסתר תחת הכותרת של "סרטוני בידור".

הדלת לתוצאות רבות

אין להכחיש שפיתוח כלי בינה מלאכותית ליצירת וידאו כמו Veo 3, אמנם מביא פוטנציאל גדול למגזר ייצור התוכן בחנויות ובעסקים רבים, אך גם פותח "דלת" המובילה לתוצאות וירטואליות בחיים האמיתיים.

זה מעלה שאלות כמו "האם מבוגרים או ילדים יכולים להבחין בין סרטונים שנוצרו על ידי בינה מלאכותית?" ו"כיצד ישפיעו הסרטונים הפוגעניים הללו על תפיסותיהם של ילדים?"

Cứ lướt mạng lại thấy video hài nhảm do AI tạo ra - 4 — לוגו של הטלוויזיה הווייטנאמית הוכנס לתוכן שנוצר על ידי בינה מלאכותית (תמונה: צילום מסך).

לא רק למטרות בידור, מומחים רבים הזהירו מפני הסיכונים הפוטנציאליים של תוכן "סוטה" שנוצר על ידי בינה מלאכותית. מוצרים אלה, כאשר הם מופצים במהירות מסחררת ברשתות החברתיות, עלולים לגרום לקשישים או לילדים לקבל באופן פסיבי ולהיות מושפעים בקלות לכיוון שלילי.

פלטפורמות מדיה חברתית מתמודדות כיום עם אתגר גדול בצנזורת תוכן, משום שבאמצעות מספר צעדים פשוטים, כל אחד יכול ליצור סדרת סרטונים עם תוכן סוטה, אפילו מקדמים התנהגות פוגענית, מושחתת או בלתי חוקית.

לא רק שזה מהווה סיכון בנוגע לתוכן, הגישה והשימוש ב-Veo 3 בווייטנאם גורמות גם להשלכות רבות. מכיוון שגוגל לא תמכה רשמית בכלי זה בשוק המקומי, יחד עם העמלות הגבוהות (20 דולר לחודש עבור חשבון Pro, 250 דולר לחודש עבור חשבון Ultra), חובבי טכנולוגיה רבים מצאו דרכים "להתגבר על המחסום" על ידי שימוש ב-VPN, רכישת חשבונות צפים או הצהרת מידע מזויף.

רבים מהם הפכו לקורבנות של טריקים של "רעיית תרנגולות" כמו פרסום חשבונות Veo 3 זולים, המאפשרים להם להשתמש בחופשיות, עם תכונות בלתי מוגבלות.

Cứ lướt mạng lại thấy video hài nhảm do AI tạo ra - 5 — פוסטים המזמינים לקנות חשבונות Veo 3 בזול מציפים את הרשתות החברתיות הוייטנאמיות (צילום מסך).

אנשים רעים רבים ניצלו את הצורך לגשת ל-Veo 3 כדי להונות, וביקשו מהקונים להעביר כסף תחילה ואז "להיעלם" במהירות ללא עקבות.

ראוי לציין כי חלק מהאנשים אף מסכימים לרשום חשבונות Veo 3 באמצעות כתובת הג'ימייל של הלקוח במחיר "מועדף במיוחד". עם זאת, מדובר למעשה בניצול פרצה במדיניות של גוגל, דבר שעלול לסכן את נעילת החשבון לצמיתות, כלומר אובדן גישה לאימיילים, מסמכים וכל הנתונים האישיים הקשורים.

הטכנולוגיה אינה פגומה

למעשה, אף פלטפורמת בינה מלאכותית לא נועדה ליצור תוכן שלילי או לקדם התנהגות פוגענית. כל ההשלכות נובעות מהאופן שבו אנשים משתמשים בכלי, מה שאומר שמודעות המשתמש ואחריותו הן הגורמים המכריעים.

ד"ר נגוין ואן סון, מרצה בפקולטה לטכנולוגיית מידע, אוניברסיטת טכנולוגיה (האוניברסיטה הלאומית של וייטנאם, האנוי ), אמר: "אני מעריך מאוד את הערכים החיוביים שמביאה בינה מלאכותית. אם משתמשים בה נכון, בינה מלאכותית יכולה לתרום תרומות מעשיות רבות לחברה ולקהילה."

עם זאת, לדבריו, בעיות מתעוררות כאשר הטכנולוגיה נופלת לידי אנשים בעלי מניעים לא בריאים. "באותה תקופה, בינה מלאכותית הופכת לכלי יעיל לתמיכה בהתנהגויות שליליות, ואף להגברת ההשפעות השליליות על החברה", הזהיר ד"ר סון.

משם, הוא קרא למשתמשים, ובמיוחד לצעירים, להעלות באופן יזום את המודעות והאחריות שלהם בגישה ויישום של בינה מלאכותית, במטרה ליצור תוכן איכותי ומתורבת במקום להפיץ מוצרים פוגעניים וזבלניים.

Cứ lướt mạng lại thấy video hài nhảm do AI tạo ra - 6 — ד"ר נגוין ואן סון מאמין שחינוך הוא המפתח להגבלת הפרות אתיות בעת שימוש בבינה מלאכותית (תמונה: דמות שסופקה).

בנוסף, ד"ר נגוין ואן סון מאמין שאחת האסטרטגיות ארוכות הטווח להגבלת הפרות אתיות בשימוש בבינה מלאכותית היא גישה מנקודת מבט חינוכית. לדבריו, העלאת המודעות, סיוע למשתמשים להבין אחריות אישית ובניית בסיס אתי בעת שימוש בטכנולוגיה הם גורם מפתח, התורמים להיווצרות קהילה דיגיטלית מתורבתת.

לא רק שהן עוצרות באזהרות לגבי תוכן "ספאם", מומחים רבים העלו שוב ושוב את סוגיית הסכנות הפוטנציאליות מכלים שנוצרו על ידי בינה מלאכותית, ובמיוחד היכולת ליצור סרטונים, שיכולים להפוך למקור להפצת דיסאינפורמציה בקנה מידה גדול.

"תעשיית הטכנולוגיה בילתה שנים בהתמודדות עם הסכנות של זיופים עמוקים. אבל הופעתם של כלי וידאו מתקדמים יותר ויותר של בינה מלאכותית היא אזהרה ברורה כי הרגולציה של תוכן שנוצר על ידי בינה מלאכותית, ובעקבות כך של תוכן אינטראקטיבי (AGI), רק תהפוך לקשה יותר", הזהיר קונור ליהי, מנכ"ל Conjecture.

גב' נגוין טי טראנג - מנכ"לית Pisa Solutions LLC - חולקת את אותה דעה, והדגישה את חשיבות החשיבה הביקורתית בהקשר של בינה מלאכותית מתקדמת יותר ויותר.

"אנחנו לא רק משתמשים בבינה מלאכותית, אלא גם מקבלי מגוון רחב של תוכן שנוצר על ידי בינה מלאכותית. בנוסף לשימוש אתי בכלים, כל אדם צריך לתרגל את היכולת לקלוט מידע מנקודות מבט מרובות, מכיוון שכיום ישנם סרטונים רבים שנוצרו על ידי בינה מלאכותית שנראים אותנטיים אך מקדמים בסתר תוכן כוזב", שיתפה גב' טראנג.

מקור: https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm