היזהרו מתמונות שנוצרו על ידי בינה מלאכותית כאשר אבטחת המידע מאוימת

המגמה של יצירת תמונות באמצעות בינה מלאכותית מתפשטת, דבר שעלול לגרום לעיוות מידע, להשפיע על אבטחת הרשת והריבונות הלאומית במהלך חגים גדולים.

בעידן של התפתחות טכנולוגית מהירה, המגמה של שימוש בבינה מלאכותית (AI) ליצירת תמונות מתפשטת בפלטפורמות הרשתות החברתיות, ומושכת את תשומת ליבם של משתמשים רבים, במיוחד צעירים. תמונות שנוצרו באמצעות בינה מלאכותית הן יצירתיות ביותר, משרתות מטרות בידור, התאמה אישית של תוכן ומבטאות אישיות. עם זאת, מאחורי משיכה זו טמונים סיכונים פוטנציאליים לאבטחה ולבטיחות המידע.

בידור או טריגר פוטנציאלי?

על פי משטרת האנוי , לאחרונה חלה מגמה של שימוש בבינה מלאכותית (AI) ליצירת תמונות, מה שמושך את תשומת ליבם של משתמשים רבים. למרות שהן מיועדות בעיקר למטרות בידור, הפצת תמונות אלו מהווה סיכונים פוטנציאליים רבים, המשפיעים ישירות על אבטחת המידע ובטיחותו, במיוחד במהלך יום השנה ה-80 למהפכת אוגוסט והיום הלאומי של המדינה ב-2 בספטמבר.

כיום, משתמשים יכולים לגשת בקלות וליצור תמונות באמצעות תוכנות בינה מלאכותית ולהשתמש בתמונות אלו כאווטארים, חדשות ומאמרים ברשתות חברתיות כמו Zalo, Tiktok, Facebook וכו'. עם זאת, אם משתמשים אינם זהירים, חסרי רגישות פוליטית ואינם שולטים בתמונות שנוצרות על ידי בינה מלאכותית, הם עלולים להשתמש בתמונות לא מדויקות כגון תמונות של מפה של וייטנאם חסרה מידע על הארכיפלגים הואנג סה וטרואנג סה; תמונות שאינן מתאימות לעם וייטנאמי. שימוש בתמונות לא מדויקות אלו ישפיע רבות על דעת הקהל במרחב הקיברנטי ויכול ליצור תפיסה שגויה לגבי סוגיות ריבונות גבולות כמו גם היסטוריה ומסורות תרבותיות לאומיות.

בינה מלאכותית יוצרת תמונה של אאו דאי מודפסת עם מפת וייטנאם חסרה בארכיפלג הואנג סה-טרואנג סה. (צילום: משטרת העיר האנוי)

משתמש מדיה חברתית בהאנוי השתמש בתוכנת בינה מלאכותית כדי ליצור תמונה של אאו דאי עם מפה של וייטנאם מודפסת עליה, ולאחר מכן פרסם אותה בטיקטוק בתגובה למגמת "הגאווה הלאומית". עם זאת, התמונה שיצרה הבינה המלאכותית נעדרה מארכיפלגים הואנג סה וטרואנג סה. הפוסט הפך ויראלי במהירות, משך אלפי צפיות ושיתופים, אך גם נתקל בתגובות חזקות מצד הקהילה המקוונת. הרשויות התערבו, דרשו להסיר את התוכן והזהירו מפני הפצת מידע כוזב הקשור לריבונות לאומית.

אזהרה מהרשויות

לדברי מר וו נגוק סון, המנהל הטכני של חברת טכנולוגיית אבטחת הסייבר הלאומית של וייטנאם - NCS, לאחרונה, בינה מלאכותית ויישומים מבוססי בינה מלאכותית התפתחו בצורה חזקה מאוד בתחומים רבים בחיים. ChatGPT היא למעשה אפליקציה נגישה בקלות לרוב האנשים שאינם אנשי IT, ולכן היא יצרה במהירות חום.

מבחינת טכנולוגיה, ChatGPT אינו פריצת דרך בהשוואה לטכנולוגיות קיימות אחרות מבוססות בינה מלאכותית, אך מבחינת נתונים, ChatGPT הצליחה מאוד כאשר היא מבוססת על כמות עצומה של נתונים בתחומים רבים, מה שגרם למשתמשים להרגיש כאילו "הם יודעים הכל". זהו גם המשיכה של ChatGPT עד כה.

מבחינת אבטחה, ChatGPT עצמו נוצר כדי לספק שירות שאלות ותשובות, כך שהסיכון הגדול ביותר הוא האם התוכן ש-ChatGPT עונה לו למשתמשים יישלט או "יורעל" על ידי מישהו כדי לגרום ל-ChatGPT לספק מידע כוזב. נכון לעכשיו, אין ראיות לכך שניתן לתקוף את ChatGPT, מכיוון שנתוני הקלט נשלטים, מסוננים ואף מתויגים על ידי בני אדם על ידי חברה זו, כך שהסיכונים הנ"ל הוגבלו. עם זאת, בעתיד, כאשר שירות זה ימשיך להתרחב, הביקוש לנתוני קלט נוספים יגדל באופן דרמטי, הסיכונים של בקרת נתונים ידרשו מהיצרנים לנקוט באמצעי אבטחה מחמירים יותר.

תוכנת בינה מלאכותית יכולה להביא יתרונות רבים, כולל היכולת ליצור תמונות אטרקטיביות ויצירתיות, אך אם משתמשים בה בצורה לא אחראית, היא עלולה להפוך ל"חרב פיפיות". מחלקת אבטחת הסייבר ומניעת פשעי היי-טק, משטרת העיר האנוי, ממליצה לאנשים:

1. אין ליצור ולהשתמש בתמונות של מפת וייטנאם או בתמונות שאינן נכונות, המפרות תקנות חוקיות או שאינן עולות בקנה אחד עם המסורות, המנהגים והתרבות הווייטנאמית.

2. שתפו באופן קבוע מידע אזהרה עם קרובי משפחה, חברים והקהילה כדי להעלות את המודעות ולמנוע מזימות ותעלולים של כוחות עוינים. אל תתנו לנתינים לנצל אירועים פוליטיים מרכזיים במדינה כדי לבצע מעשים בלתי חוקיים.

3. היזהרו בעת התקנה ושימוש ביישומי בינה מלאכותית לא מאומתים כדי להימנע מסיכון של איסוף המידע האישי שלכם.

4. גלו תחושת אחריות כלפי עצמכם וכלפי הקהילה בעת השתתפות בפעילויות ברשתות חברתיות.

הפרות יטופלו בקפדנות בהתאם להוראות החוק.

כמשתמש, כל אדם צריך להיות בעל תחושת אחריות ברורה בעת השתתפות במרחב הקיברנטי. "זיהוי מגמות" לא צריך להיות מוחלף בבורות או בתמיכה לא מכוונת במעשים שגויות. באשר לתקשורת, המשימה אינה רק לדווח חדשות אלא גם לכוון את דעת הקהל, ולתרום להגנה על האמת והערכים הלאומיים.

מקור: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html