כלי הבינה המלאכותית של OpenAI להמרת דיבור לטקסט נתפס כשהוא בודה סיפורים

ענקית הטכנולוגיה OpenAI הציגה את כלי הדיבור-לטקסט שלה, Whisper, כבינה מלאכותית בעלת "דיוק וחוסן אנושיים". אבל ל-Whisper היה פגם אחד עיקרי: היא יצרה טקסט ומשפטים שהיו מזויפים לחלוטין.

Công cụ AI trong bệnh viện bịa ra những điều không ai nói - Ảnh 1. — חלק מהטקסט שנוצר על ידי בינה מלאכותית - המכונה "הזיות" - יכול לכלול הערות גזעניות, שפה אלימה ואפילו טיפולים רפואיים דמיוניים - צילום: AP

חלק מהטקסט שנוצר על ידי בינה מלאכותית הוא "הזיה", אומרים מומחים, על פי AP, כולל הערות גזעניות, שפה אלימה ואפילו טיפולים רפואיים דמיוניים.

שיעור גבוה של "אשליה" בטקסטים שנוצרו על ידי בינה מלאכותית

מומחים מודאגים במיוחד משום ש-Whisper נמצא בשימוש נרחב בתעשיות רבות ברחבי העולם לתרגום ותמלול ראיונות, יצירת טקסט בטכנולוגיות צרכניות פופולריות ויצירת כתוביות לסרטונים.

מדאיג עוד יותר, מרכזים רפואיים רבים משתמשים ב-Whisper כדי להעביר התייעצויות בין רופאים למטופלים, למרות ש-OpenAI הזהירה כי אין להשתמש בכלי באזורים "בסיכון גבוה".

קשה לקבוע את מלוא היקף הבעיה, אך חוקרים ומהנדסים אומרים שהם נתקלים באופן קבוע ב"הזיות" של Whisper בעבודתם.

חוקר מאוניברסיטת מישיגן אמר שמצא "הזיות" בשמונה מתוך עשרה תמלולים של אודיו שבדק. מהנדס מחשבים מצא "הזיות" בכמחצית מהתמלולים של יותר מ-100 שעות של אודיו שניתח. מפתח אחר אמר שמצא "הזיות" כמעט בכל 26,000 ההקלטות שיצר באמצעות Whisper.

הבעיה נמשכת גם עם דגימות אודיו קצרות ומוקלטות בבירור. מחקר שנערך לאחרונה על ידי מדעני מחשב מצא 187 "אשליות" ביותר מ-13,000 קטעי אודיו ברורים שבדקו. נטייה זו מובילה לעשרות אלפי תמלולים כוזבים במיליוני הקלטות, אמרו החוקרים.

טעויות כאלה עלולות להיות בעלות "השלכות חמורות מאוד", במיוחד במסגרות של בתי חולים, לדברי אלונדרה נלסון, שעמדה בראש משרד המדע והטכנולוגיה של הבית הלבן בממשל ביידן עד השנה שעברה.

"אף אחד לא רוצה אבחנה שגויה", אמר נלסון, כיום פרופסור במכון ללימודים מתקדמים בפרינסטון, ניו ג'רזי. "צריך להיות סטנדרט גבוה יותר".

התוכנית Whisper משמשת גם ליצירת כיתובים עבור חירשים וכבדי שמיעה - אוכלוסייה הנמצאת בסיכון מיוחד לתרגומים שגויים. הסיבה לכך היא שלאנשים חירשים וכבדי שמיעה אין דרך לזהות קטעים מפוברקים "המוסתרים בכל הטקסט האחר", אומר כריסטיאן ווגלר, חירש ומנהל תוכנית נגישות הטכנולוגיה באוניברסיטת גאלודה.

OpenAI נקרא לפתור את הבעיה

שכיחותן של "הזיות" כאלה הובילה מומחים, תומכים ועובדים לשעבר של OpenAI לקרוא לממשל הפדרלי לשקול תקנות בתחום הבינה המלאכותית. לכל הפחות, OpenAI צריכה לטפל בפגם זה.

"הבעיה הזו ניתנת לפתרון אם החברה מוכנה לתת לה עדיפות", אמר ויליאם סונדרס, מהנדס מחקר מסן פרנסיסקו שעזב את OpenAI בפברואר עקב חששות לגבי כיוון החברה.

"זו תהיה בעיה אם תפרסמו את זה ואנשים יהיו כל כך בטוחים במה שזה יכול לעשות שהם ישלבו את זה בכל המערכות האחרות האלה." דובר של OpenAI אמר שהחברה עובדת כל הזמן על דרכים למתן את ה"אשליות" ומעריכה את ממצאי החוקרים, והוסיפה ש-OpenAI משלבת משוב בעדכוני מודל.

בעוד שרוב המפתחים מניחים שכלי טקסט לדיבור יכולים לעשות שגיאות כתיב או טעויות אחרות, מהנדסים וחוקרים אומרים שמעולם לא ראו כלי טקסט לדיבור המופעל על ידי בינה מלאכותית ש"מזהה" כמו Whisper.

Công cụ AI trong bệnh viện bịa ra những điều không ai nói - Ảnh 2.

פרס נובל לפיזיקה 2024: האנשים שהניחו את היסודות לבינה מלאכותית

פרס נובל לפיזיקה השנה הוענק לשני מדענים, ג'ון ג'יי הופילד וג'פרי א. הינטון, על "תגליותיהם והמצאותיהם הבסיסיות שהובילו לפיתוח למידת מכונה באמצעות רשתות עצביות מלאכותיות".

[מודעה_2]
מקור: https://tuoitre.vn/cong-cu-ai-chuyen-loi-noi-thanh-van-ban-cua-openai-bi-phat-hien-bia-chuyen-20241031144507089.htm