היזהרו מהצד האפל של הבינה המלאכותית

סדנה לתרומה לרעיונות לשכלול טיוטת החוק בנושא בינה מלאכותית (AI). (צילום: הואנג נגוין)

אירועים אחרונים הקשורים להטיה וזיוף מסמכים גרמו לחוקרים לשקול מחדש את הרמה המתאימה של מעורבות בינה מלאכותית במחקר.

לאחרונה, בדף האישי שלו, פרופסור, דוקטור לבלשנות נגוין ואן הייפ, שיתף סיפור שהדהים את הקוראים. הוא גילה שבינה מלאכותית זייפה את המסמכים שלו במידע ששלח חבר. הוא גם גילה במקרה שגם המאמר של פרופסור חבר, דוקטור למדעים טראן ואן קו, זויף על ידי בינה מלאכותית.

בינה מלאכותית הפכה לחלק בלתי נפרד מחיי האדם, אך מומחים מדגישים תמיד שעלינו לראות בבינה מלאכותית רק כלי תומך. משתמשי בינה מלאכותית צריכים תמיד להיות ערניים ובעלי ידע כדי לעבד נתונים ולהעריך את התוצאות המתקבלות לאחר "שיתוף פעולה" עם בינה מלאכותית. במיוחד במחקר מדעי, מחקרים רבים הראו שהבעיה הגדולה ביותר שיש להיות ערניים אליה היא הטיה בנתונים ובמודלים. בינה מלאכותית יכולה להיות מוטה, לעוות תוצאות ניתוח, ליצור דעות קדומות או אפליה, ולתמרן מידע אם לא נשלטת היטב.

בפרט, השימוש בבינה מלאכותית במחקר מדעי החברה דורש זהירות רבה יותר. מכיוון שתחומים במדעי החברה כמו פילוסופיה, בלשנות, אתנולוגיה, היסטוריה וכו' כולם לוקחים התנהגות אנושית, תרבות והתנהגות כאובייקטי מחקר, הנתונים קשורים לעתים קרובות באופן הדוק להקשר החברתי-תרבותי הווייטנאמי, עם עומק וספציפיות. אם נתוני אימון בינה מלאכותית משקפים דעות קדומות היסטוריות, הסכנה שעלולה להתרחש היא שבינה מלאכותית תוכל להסיק מסקנות שמחריפות בעיות של אי-שוויון בין מגדר, מעמד, גזע או אזור גיאוגרפי. הסיכון גדול אף יותר כאשר בינה מלאכותית משמשת לניתוח התנהגות אנושית, להגיב לסקרים פתוחים או להשתתף בתוכן מדיה.

על פי כמה מומחים למדעי החברה, לבינה מלאכותית יש כיום קושי בגישה למקורות נתונים המוגנים בזכויות יוצרים או בתשלום, מה שמביא למידע שאינו מעודכן לחלוטין.

תופעת זיוף מסמכים ליצירת סיפורים אמינים מתרחשת לעתים קרובות בנושאים פחות פופולריים, בשפות עם מקורות נתונים מוגבלים כמו וייטנאמית, ויש להזהיר מפניה כדי להתריע בפני המשתמשים. מערכות בינה מלאכותית באופן כללי מוגבלות מאוד כיום בהבנת ההקשר החברתי והתרבותי, כך שהסיוע שלהן בפירוש ידע מדעי החברה עמום ועשיר במטאפורות אינו אמין באמת.

למרות שהיא מביאה עמה פוטנציאל רב במחקר מדעי, יישום הבינה המלאכותית צריך להיות זהיר מאוד, יש לו מגבלות וחייב תמיד ללכת יד ביד עם יכולת החשיבה הביקורתית של החוקר.

ניתן לראות שלמרות שהיא מביאה עמה פוטנציאל רב במחקר מדעי, יישום הבינה המלאכותית צריך להיות זהיר מאוד, מוגבל ותמיד מלווה ביכולת הביקורתית של החוקר. הנושא המשתמש בבינה מלאכותית חייב לזהות בבירור את המגבלות הללו בשימוש בבינה מלאכותית, תוך הבטחה שהבינה המלאכותית לא תשנה את ערכי הליבה של המדע. כדי להגן על שלמות המחקר המדעי, יש להעלות את תפקידם ואחריותם של המדענים לרמה חדשה. בנוסף, יש צורך להציע מסגרת אתית מחייבת מבחינה משפטית של בינה מלאכותית בהקשר של התרבות, המסורות והנורמות החברתיות הווייטנאמיות.

יש לנו מערכת של תשעה עקרונות לקידום מחקר ופיתוח של מערכות בינה מלאכותית בטוחות ואחראיות, להגבלת השפעות שליליות ולבקרת סיכונים שהוצעה על ידי משרד המדע והטכנולוגיה , המדגישה את אבטחת המידע כמו גם כיבוד זכויות אדם וכבוד, ואחריותיות של משתמשי בינה מלאכותית. בפרט במחקר מדעי, מועצת הפרופסורים הממלכתית פרסמה גם את הודעת דוח רשמי מס' 25/HDGSNN בשנת 2023, ובה בקשה ממועצות לתארים של פרופסורים בתעשייה וממתקנים להערכת איכות עבודות מדעיות להקדיש תשומת לב מיוחדת לגילוי והערכת עבודות המשתמשות בטכנולוגיית בינה מלאכותית או נעזרים בה. דרישות אלה נועדו להבטיח שתוצאות מחקר המשתמשות בטכנולוגיית בינה מלאכותית עדיין יעמדו בסטנדרטים מדעיים, ולמנוע ניצול לרעה של בינה מלאכותית במחקר מדעי ובפרסום.

בעתיד הקרוב, כאשר יינתן חוק הבינה המלאכותית, הכולל תקנות מחמירות בנוגע לאתיקה ואחריות בשימוש בבינה מלאכותית, הדבר יתרום ליצירת סביבה בריאה לפיתוח בינה מלאכותית, ויספק תמיכה פעילה ואחראית יותר למדענים בעבודות מחקר.

פסטיבל המחול

מקור: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html