דרום אפריקה משנה את מדיניותה בנוגע לבינה מלאכותית לאחר שערוריית מקורות מזויפים.

דרום אפריקה משנה את מדיניותה הלאומית בנושא בינה מלאכותית לאחר שטיוטה קודמת בוטלה עקב ציטוטים מפוברקים רבים שנוצרו לכאורה על ידי בינה מלאכותית, מה שעורר ויכוח על אמינות המדיניות הציבורית.

ממשלת דרום אפריקה הקימה זה עתה פאנל מומחים עצמאי לבחינת טיוטת המדיניות הלאומית בנושא בינה מלאכותית בעקבות שערורייה שכללה מסמכים המכילים אזכורים פיקטיביים.

זהו אחד המקרים הנדירים שבהם מסמך רגולטורי של בינה מלאכותית חשוד בשימוש בתוכן שנוצר על ידי בינה מלאכותית וחסר אימות.

הטיוטה, שפורסמה באפריל להערות הציבור, שואפת להפוך את דרום אפריקה למובילה בחדשנות בתחום הבינה המלאכותית באפריקה.

עם זאת, לאחר ש-News24 גילה ציטוטים והפניות רבים שלא היו קיימים, נאלצה המחלקה לתקשורת וטכנולוגיה דיגיטלית בדרום אפריקה (DCDT) לחזור בה מהמסמך כולו.

תמונה להמחשה. צילום: רויטרס

שר ה-DCDT, סולי מלאצי, הודה כי אירעה "התעלמות משמעותית" בתהליך איסוף המסמכים. הוא הצהיר כי ביקורות פנימיות קודמות לא זיהו את הבעיה, והודה בחוסר שקיפות בשימוש בבינה מלאכותית לאיסוף חומרי הייחוס.

ממשלת דרום אפריקה שואפת כעת לסיים את הגרסה המתוקנת עד נובמבר 2026 לאישור הקבינט, לפני פרסומה להערות הציבור בינואר 2027. ועדת הביקורת החדשה, המורכבת משבעה מומחים, מוטל עליה לבחון את כל המסמכים ולהסיר או להחליף מקורות לא מדויקים.

ג'נט מווריין, מנהלת חדשנות דיגיטלית ב-DCDT, אמרה שתהליך העדכון יתמקד בהבטחת השקיפות והאמינות האקדמית של הטקסט. "פאנל המומחים יבחן כל סעיף בתוכן לפני הגשתו לממשלה", אמרה.

התקרית הובילה גם לנקיטת צעדים משמעתיים פנימיים. שני פקידים המעורבים הושעו עד לחקירה. מנכ"לית DCDT, נונקובלה ג'ורדן-דיאני, תיארה את התקרית כ"מצערת מאוד" ואמרה כי משיכת הטיוטה הייתה הכרחית כדי להשיב את אמינותה של הסוכנות.

השערורייה בדרום אפריקה משקפת את האתגר הגובר ככל שבינה מלאכותית מתחילה להיות בשימוש בקביעת מדיניות ציבורית. יצירת כלים יכולה לסייע באיסוף נתונים מהיר יותר, אך היא גם מסתכנת ביצירת מידע שגוי או מקורות פיקטיביים אם לא יאומתו כראוי על ידי בני אדם.

משקיפים מאמינים כי אירוע זה משמש כאזהרה מוקדמת לממשלות רבות הנוקטות באסטרטגיות של בינה מלאכותית ברחבי העולם. ככל שבינה מלאכותית הופכת מעורבת יותר ויותר בממשל, דרישות לשקיפות, אימות נתונים ואחריות צפויות להפוך לחיוניות.

לפי רויטרס

מקור: https://hanoimoi.vn/nam-phi-sua-chinh-sach-ai-sau-be-boi-nguon-gia-974314.html