סטודנטים קיבלו ציון 0 עקב פגם באפליקציית בדיקות הבינה המלאכותית.

אוניברסיטאות רבות בארה"ב משתמשות ביישומי בדיקה של בינה מלאכותית (AI) כדי למנוע מסטודנטים להשתמש בבינה מלאכותית בחיבורים שלהם. עם זאת, היו מקרים רבים בהם כלי הבדיקה היו לא מדויקים, וכתוצאה מכך הסטודנטים קיבלו ציון אפס.

במקרה ספציפי אחד, מוירה אולמסטד (בת 24), סטודנטית באוניברסיטת סנטרל מתודיסט (ארה"ב), סיפרה על חווייתה שבה קיבלה ציון אפס לאחר שאפליקציית הערכת חיבורים המופעלת על ידי בינה מלאכותית תייגה את החיבור שלה כ"נוצר על ידי בינה מלאכותית", על פי בלומברג .

אחוז יישומי בדיקות הבינה המלאכותית ש"לא מבינים" את הכללים נע בין 1% ליותר מ-10%.

הפרופסורית טענה כי האפליקציה שנבדקה בבינה מלאכותית סימנה בעבר את החיבור שלה. עם זאת, אולמסטד התנגדה למסקנה זו, וטענה כי כתיבתה הייתה "מכנית" במידה מסוימת משום שיש לה הפרעת ספקטרום אוטיסטי, ולא משום שהחיבור נוצר באמצעות בינה מלאכותית. לאחר מכן, בית הספר שינה את התוצאות והיא עברה את הקורס.

במקרה אחר, קן סאהיב, סטודנט אמריקאי שגדל באיטליה, אמר שהוא היה המום כאשר עבודתו קיבלה ציון אפס בקורס רשתות מחשבים בברקלי קולג' בניו יורק.

המרצה הסביר, "כל כלי שניסיתי הניב את אותה התוצאה: בינה מלאכותית יצרה את החיבור הזה." עם זאת, סאהיב טען שבילה את שנות העשרה שלו באיטליה, כך שאנגלית הייתה רק שפתו השנייה, וכתיבתו לא תהיה טבעית כמו של דובר שפת אם. הוא גם טען שהאפליקציה שנבדקה בבינה מלאכותית נתנה הערכה לא מדויקת. לאחר שהתלמיד מחה, בית הספר שינה את ציון החיבור.

על פי דו"ח שפורסם במרץ על ידי המרכז לדמוקרטיה וטכנולוגיה (ארה"ב), כשני שלישים מיותר מ-450 המורים שנבדקו בארה"ב אמרו שהם משתמשים באופן קבוע ביישומי הערכה המופעלים על ידי בינה מלאכותית. מחנכים אומרים שכלים אלה עוזרים להם לקבוע האם בינה מלאכותית מייצרת משפטים, פסקאות או חיבורים שלמים של תלמידים.

מספר כלים כמו Turnitin, GPTZero ו-Copyleaks צצו ונמצאים בשימוש בבתי ספר תיכוניים ואוניברסיטאות רבות בארה"ב.

חברות טכנולוגיה טוענות כי לאפליקציות בדיקת חיבורים המופעלות על ידי בינה מלאכותית יש שיעור דיוק של עד 99%. עם זאת, בלומברג ערכה בדיקה עם 500 חיבורים לפני השקת ChatGPT בסוף 2022. התוצאות הראו כי אחוז אפליקציות הבדיקה המופעלות על ידי בינה מלאכותית שזיהו בטעות חיבורים שנכתבו על ידי סטודנטים כ"חיבורים שנוצרו על ידי בינה מלאכותית" נע בין 1% ליותר מ-10%.

עם שיעור שגיאות זה, בהתחשב במספר הרב של עבודות שיש לבדוק מדי שנה, הדבר משפיע באופן משמעותי על מורל הסטודנטים ואף יכול ליצור חשדנות ומתח מיותרים בין מרצים לסטודנטים.

באופן ספציפי, לאחר שסומנה כ"חיבור שנוצר על ידי בינה מלאכותית", התלמידה מוירה אולמסטד הייתה כה רגישה עד שהשתמשה בפונקציית הקלטת המסך כדי להקליט את כל מסך המחשב שלה בזמן כתיבת החיבור שלה כהוכחה לבית הספר.

סטודנטים רבים בארה"ב אומרים שכעת עליהם להקדיש יותר זמן לכתיבת חיבורים משום שעליהם לבדוק בקפידה ניסוחים שעלולים להיות מסומנים כ"כתיבה מבוססת בינה מלאכותית" על ידי כלי ציון.

אפליקציית Quillbot העריכה מאמר ומצאה ש-43% מתוכנו נוצר על ידי בינה מלאכותית.

מחקר משנת 2023 של אוניברסיטת סטנפורד (ארה"ב) הראה כי אפליקציית בדיקת חיבורים המופעלת על ידי בינה מלאכותית הייתה "כמעט מושלמת" בהערכת חיבורים שנכתבו על ידי תלמידי כיתה ח' שנולדו בארה"ב. עם זאת, האפליקציה שיפוטה באופן שגוי ותייגה מחצית מהחיבורים שנכתבו על ידי תלמידים אלה (שאנגלית הייתה שפתם השנייה) כ"חיבורי בינה מלאכותית".

אין להשתמש באפליקציות בדיקה המופעלות על ידי בינה מלאכותית כ"שופטים".

בתגובה למצב זה, חלק מבתי הספר בארה"ב מספקים לתלמידים כלים המופעלים על ידי בינה מלאכותית כדי שיוכלו לבדוק את עבודותיהם באופן עצמאי לפני הגשתן.

יתר על כן, חברות טכנולוגיה מדגישות כי בתי ספר צריכים לראות באפליקציות הערכה המופעלות על ידי בינה מלאכותית רק ככלי תמיכה, ולא כ"שופטים" שיבצעו שיפוט על חיבורים של תלמידים.

יתר על כן, חלק מהסטודנטים, בניסיון לחסוך זמן, פונים לשימוש בכלי "בינה מלאכותית להומניזציה" - כלים שיכולים לערוך או לכתוב מחדש טקסטים שנכתבו על ידי אדם באופן אוטומטי כדי לעבור יישומי הגהה המופעלים על ידי בינה מלאכותית.

עבור חלק מהמחנכים והתלמידים, שימוש יתר ביישומי בדיקה המונעים על ידי בינה מלאכותית על ידי בתי ספר ומדריכים ישפיע לרעה על תהליך ההוראה והלמידה.

אדם לויד, פרופסור לאנגלית באוניברסיטת מרילנד, ציין: "בינה מלאכותית הופכת לחלק מהעתיד, בין אם נרצה בכך ובין אם לא. זו טעות לראות בבינה מלאכותית משהו שעלינו להסיר מהכיתה או למנוע מתלמידים להשתמש בה." במקום להשתמש באפליקציות בדיקה של בינה מלאכותית, פרופסור לויד מסתמך על האינטואיציה שלו. "יש לי הבנה טובה של יכולות הכתיבה של תלמידים. אם יש לי ספקות, אדון בהם בגלוי, מבלי למהר להאשים תלמידים בשימוש בבינה מלאכותית כדי לכתוב את עבודותיהם", אמר לויד.

מקור: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm