צורך דחוף לשלוט בתוכן בינה מלאכותית

יש לקבוע קריטריונים כדי להגביל את התוכן שמשתמשים מורשים ליצור באמצעות בינה מלאכותית, תוך כפיית תיוג ברור.

בשנים האחרונות בלבד, בינה מלאכותית (AI) התפתחה והשתפרה ללא הרף במהירות מסחררת, והפכה לכלי תמיכה עמוק בתחומים רבים. Veo3 - טכנולוגיית יצירת וידאו המשתמשת בבינה מלאכותית שפותחה לאחרונה על ידי גוגל DeepMind - מסוגלת ליצור צילומים מציאותיים. מלבד כלי השירות התומכים במשתמשים, כלי זה מציב גם את הסיכון לניצול על ידי רשעים לצורך הונאה.

קשה להבחין בין אמיתי למזויף

על פי עולם הטכנולוגיה, Veo3 "עוררה סערה" ברחבי העולם בזכות תכונת יצירת הווידאו מבוססת הבינה המלאכותית שלה, עם רמת ריאליזם שעולה על כל כלי קודם. בניגוד ל-Sora של OpenAI - שבולט רק מבחינת התמונה אך מוגבל מבחינת הסאונד, Veo3 מסנכרן בצורה מושלמת תמונות, צלילי סביבה ודיאלוגים. מצעדים, רוח נושבת ועד לקולות אנושיים ואפקטים מסביב, כולם משולבים בצורה חלקה, ומגיעים לרמת דמיון מציאותית, מה שמקשה על המשתמשים להבחין בין סרטונים אמיתיים לבין כאלה שנוצרו על ידי בינה מלאכותית.

בווייטנאם, Veo3 יצרה במהירות סערה ברשתות חברתיות כמו טיקטוק, פייסבוק ויוטיוב שורטס. סדרת סרטונים עם ההאשטאג #veo3 שותפו במהירות מסחררת, ומשכו מיליוני צפיות ומאות אלפי אינטראקציות. קליפים רבים שנוצרו על ידי בינה מלאכותית הפתיעו את הקהילה המקוונת בגלל רמת האותנטיות הבלתי נתפסת שלהם. לדוגמה, סרטון בן 8 שניות עם דיאלוג פשוט הגיע ל-5 מיליון צפיות ויותר מ-308,000 לייקים. סרטון נוסף שתיעד אישה מבוגרת מטגנת ביצים, שנוצר כולו על ידי בינה מלאכותית, הגיע גם הוא ליותר מ-2.6 מיליון צפיות ויותר מ-104,000 לייקים.

מר טראן וין קאנג - עובד משרד במחוז 1, הו צ'י מין סיטי - שיתף כי הוא מתקשה להבחין בין אמיתי למזויף משום שרמת הריאליזם הייתה גבוהה מדי. "ראיתי סרטון של מוכר דגים מדבר עם לקוחות בשוק וחשבתי שזה אמיתי כי התמונה הייתה כל כך חדה. האופן שבו הוא נופף בידו, הרים את גבותיו, אור השמש שזרח על פניו, הכל היה כל כך טבעי שזה היה בלתי ייאמן שזה נוצר על ידי בינה מלאכותית", אמר מר קאנג.

תמונות בסרט שנוצרו על ידי Veo3, משתמשים מתקשים להבחין בין אמיתי למזויף

למרות שהודתה שהתרשמה, גב' נגוין מאי אן (המתגוררת בהו צ'י מין סיטי) הביעה חששות בנוגע לאבטחת המידע. "הסרטון שנוצר על ידי Veo3 כל כך מציאותי שהוא גורם לי להרגיש חסרת ביטחון. אם אנשים רעים ישתמשו בטכנולוגיה הזו כדי ליצור סרטונים להוצאת דיבה, הוצאת דיבה או זיוף ראיות, ההשלכות יהיו חמורות מאוד", אמרה גב' אן.

משתמשים וייטנאמים רבים מתעניינים במיוחד כיצד לגשת ולהשתמש ב-Veo3. עם זאת, Veo3 נפרס רשמית על ידי גוגל רק בשוק האמריקאי, באמצעות חבילת המנוי Google AI Ultra בעלות של 249.99 דולר לחודש. לנוכח מגבלה זו, הקהילה המקוונת הוייטנאמית מצאה דרך "להתגבר על המחסום" כדי לחוות זאת. אנשים רבים חולקים טיפים כיצד להשתמש ב-VPN כדי לשנות כתובת IP לארה"ב, ומשם להירשם לחשבון גוגל באזור הנתמך כדי להפעיל ולהשתמש ב-Veo3 כמו משתמש מקומי. לדברי מומחי אבטחה, זוהי גם פרצה שאנשים רעים יכולים לנצל כדי לעשות דברים מפוקפקים.

מסגרת משפטית נדרשת לבינה מלאכותית

מר לה הונג דוק, מייסד OneAds Digital Company Limited, אמר כי מוצרים שנוצרו על ידי בינה מלאכותית, כגון סרטונים, תמונות או קולות, מתקרבים לרמה מדהימה של ריאליזם, ואף ניתנים להכנסה ישירה לייצור ולמסחור. פיצוץ זה מביא יתרונות ברורים מבחינת עלות וזמן, אך ניתן לנצל אותו כדי להפיץ מידע כוזב או לגרום לבלבול ציבורי. בהקשר של מודלים מורכבים יותר ויותר של בינה מלאכותית, שליטה בתוכן הופכת דחופה, במיוחד כאשר הטכנולוגיה עקפה בהרבה את מהירות עדכון החוקים הנוכחיים.

לכן, מר דוק הציע כי יש לפתח בדחיפות חוק ייעודי לבינה מלאכותית, אשר מגדיר בבירור את אחריותם של אלו היוצרים ומשתפים תוכן מבוסס בינה מלאכותית. יש לאשר ולטפל בקפדנות בפעולות של הפצת תוכן כוזב ורעיל. במקביל, על הרשויות להוציא קריטריונים להגבלת התוכן שמשתמשים רשאים ליצור באמצעות בינה מלאכותית ולדרוש תוויות ברורות. אם לא ייושמו נכון, על המשתמשים לשאת באחריות משפטית ולפצות על כל נזק שנגרם. "הוצאת מסגרת משפטית נפרדת לבינה מלאכותית היא דחופה ביותר כדי לשלוט בטכנולוגיה המתפתחת במהירות זו, לתרום לשמירה על סביבה דיגיטלית בריאה, למנוע השלכות כגון הונאה, הפרות אתיות או מעשי עלבון אחרים" - הדגיש מר דוק.

בנוסף לחששות משפטיים, מומחה אבטחת מידע שיתף כי הפיתוח המרשים של Veo3 מעורר גם חששות בקרב יוצרי תוכן, במיוחד בתחומים כמו קולנוע, טלוויזיה ואנימציה, הנמצאים בסיכון להוחלף בהדרגה על ידי טכנולוגיית בינה מלאכותית, מה שמציב אתגר משמעותי להגנה על קריירות וזכויות יוצרים בתעשייה היצירתית. "יש צורך להוסיף בקרוב תקנות בנוגע לזכויות קניין רוחני עבור תוכן שנוצר על ידי בינה מלאכותית, מכיוון שבינה מלאכותית מסוגלת כעת לייצר מוצרים ריאליסטיים ביותר. אחרת, יוצרים יעמדו בפני הסיכון לאבד את מקום עבודתם עקב גל היצירות הווירטואליות המציפות את השוק", אמר המומחה.

היזהרו משירותים מתחזים

מאז ש-Veo3 התפוצצה, בפלטפורמות המדיה החברתית, חשבונות רבים הטוענים שהם "מומחי בינה מלאכותית" החלו לשתף סרטוני הדגמה, הוראות כיצד לגשת ל-Veo3 או מכירת חשבונות ושירותי תמיכה במחירים הנעים בין 200,000 ל-300,000 וייטנאם דונג. חלק מהמשתמשים אמרו שהם הצליחו לגשת אליה וניסו אותה, אך לא כולם הצליחו לחוות אותה. מר לה הונג דוק הזהיר את המשתמשים להיזהר משירותים מזויפים או לא רשמיים, והמליץ ​​להמתין שגוגל תפרוס רשמית את Veo3 בשוק הווייטנאמי כדי להימנע מהונאה פיננסית, גניבת נתונים או השתלטות על חשבונות גוגל.

מקור: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm