"אבי" צ'אט GPT משתף את הפחד הגדול ביותר שלו מפני בינה מלאכותית.

[מודעה_1]

"הפחד הכי גדול שלי הוא שנגרום לתוצאות חמורות - שאנחנו, התחום הזה, תעשיית הטכנולוגיה - נגרום נזק חמור לעולם . אני חושב שזה יכול לקרות בדרכים רבות ושונות. זו הסיבה שהקמנו את החברה הזו", אמר אלטמן במהלך דיון בפני תת-הוועדה לענייני פרטיות, טכנולוגיה ומשפט של הסנאט ב-16 במאי.

הפחד הכי גדול: בינה מלאכותית יכולה לעשות טעויות.

"אנשים חושבים שאם הטכנולוגיה הזו תשתבש, היא עלולה להשתבש, ואנחנו רוצים לדבר על זה. אנחנו רוצים לעבוד עם הממשלה כדי למנוע את זה", אמר אלטמן, מנכ"ל OpenAI (מפתחת ChatGPT).

מנכ"ל OpenAI, סם אלטמן, מושבע בדיון בפני תת-הוועדה המשפטית של הסנאט. (צילום: וושינגטון פוסט)

בדיון הראשון שלו בקונגרס , סם אלטמן קרא גם לתקנות רחבות היקף, כולל סוכנות ממשלתית חדשה האחראית על רישוי מודלים של בינה מלאכותית, כדי לטפל בחששות הגוברים שבינה מלאכותית עלולה לעוות את המציאות וליצור סיכוני אבטחה חסרי תקדים.

מר אלטמן הודה ברצינות בדרכים שבהן בינה מלאכותית עלולה "לגרום נזק משמעותי לעולם", והביע את נכונותו לשתף פעולה עם מחוקקים כדי לטפל בסיכונים שמציבים כלי ChatGPT של חברתו וכלי בינה מלאכותית אחרים.

אלטמן תיאר את ההתנהגויות ה"מסוכנות" שמציבות טכנולוגיות כמו ChatGPT, כולל הפצת "מידע שגוי אינטראקטיבי חי" ומניפולציה רגשית. הוא הודה כי ניתן להשתמש בבינה מלאכותית כדי למקד התקפות באמצעות רחפנים.

"אם הטכנולוגיה הזו תתקלקל, המצב עלול להפוך לרע מאוד", הוא אמר.

עם זאת, במהלך דיון שנמשך כמעט שלוש שעות על ההשלכות ההרסניות הפוטנציאליות, אישר אלטמן כי חברתו תמשיך לפרוס טכנולוגיית בינה מלאכותית.

הוא טען שבמקום לקחת סיכונים, "הפריסה האיטרטיבית" של מודלי הבינה המלאכותית של OpenAI נותנת לארגונים זמן להבין איומים פוטנציאליים. זהו מהלך אסטרטגי, המביא לעולם טכנולוגיה חלשה יחסית ו"לא מושלמת" כדי לסייע בחשיפת סיכוני אבטחה קשורים.

תמונה זו ממחישה את אפליקציית ChatGPT, המאפשרת למחשבים לשוחח בצ'אט עם משתמשים כמו עם בני אדם.

במהלך השבועות האחרונים, אלטמן יצא למסע היכרות עולמי, ונפגש באופן פרטי עם קובעי מדיניות, כולל נשיא ארה"ב ביידן וחברי קונגרס, כדי להתייחס לחששות בנוגע לפריסה המהירה של ChatGPT וטכנולוגיות אחרות.

השימוע ב-16 במאי סימן את ההזדמנות הראשונה לציבור הרחב לשמוע את המסר שלו, בתקופה שבה וושינגטון מתקשה יותר ויותר לווסת טכנולוגיה ששיבשה מקומות עבודה, אפשרה הונאה והפצה מידע שגוי.

בניגוד מוחלט לשימועים עם מנכ"לים אחרים בתעשיית הטכנולוגיה, כמו שו זי צ'ו מטיקטוק ומארק צוקרברג ממטא, חברי הפרלמנט האמריקאים העניקו לאלטמן קבלת פנים חמה יחסית.

הם נראו במצב של האזנה, והביעו פתיחות לשקול הצעות של אלטמן ושני העדים האחרים בדיון: מנכ"לית יבמ כריסטינה מונטגומרי ופרופסור אמריטוס מאוניברסיטת ניו יורק גארי מרקוס.

במהלך דיון של תת-הוועדה לענייני פרטיות, טכנולוגיה ומשפט בסנאט, הביעו סנאטורים דאגה עמוקה מההתפתחות המהירה של הבינה המלאכותית, וטענו כי ההתקדמות האחרונה עלולה לגרום לשינויים גדולים בהרבה מהאינטרנט, או להיות מסוכנת כמו פצצת אטום.

הסנאטור ג'ון נילי קנדי אמר לעדים, "זו ההזדמנות שלכם להראות לנו כיצד לטפל כראוי בבעיה הזו. נצלו אותה."

מחוקקים משתי המפלגות הביעו פתיחות לרעיון הקמת סוכנות ממשלתית שתפקידה לנהל ולפקח על פיתוח בינה מלאכותית, אם כי ניסיונות קודמים ליצור סוכנות ספציפית כזו עם פיקוח עמק הסיליקון נכשלו בקונגרס עקב פילוגים מפלגתיים לגבי אופן הקמת גוף כה עצום.

לא ברור האם הצעה כזו תזכה לתמיכה רחבה מצד הרפובליקנים, שבדרך כלל חוששים מהרחבת כוח הממשלה. הסנאטור ג'וש האולי ממיזורי הזהיר כי סוכנות כזו עלולה להיות "לכודה על ידי אינטרסים שעליה ליישב".

הסנאטור ריצ'רד בלומנטל, יו"ר ועדת המשנה, שיבח את עדותו של אלטמן בדיון: "סם אלטמן שונה מאוד ממנכ"לים אחרים... לא רק במילותיו וברטוריקה שלו, אלא גם במעשיו המעשיים ובנכונותו לעסוק ולהתחייב לפעולה קונקרטית".

השימוע עם המנכ"ל אלטמן התקיים על רקע חששות גוברים בקרב קובעי מדיניות בוושינגטון בנוגע לאיומים שמציבה בינה מלאכותית, כגון ChatGPT וכלי בינה מלאכותית חדשניים אחרים, במיוחד בכל הנוגע למידע שגוי, פרטיות נתונים, הפרת זכויות יוצרים ואבטחת סייבר.

מחוקקים הביעו צער על גישתם הרופפת יחסית לתעשיית הבינה המלאכותית לפני בחירות 2016. השימוע הראשון שלהם עם מנכ"ל מטא, צוקרברג, התקיים בשנת 2018, כאשר פייסבוק כבר הייתה חברת ענק והייתה מעורבת זה עתה בשערוריית קיימברידג' אנליטיקה, שכללה את נתוניהם של 87 מיליון משתמשי פייסבוק.

באותה תקופה, למרות קונצנזוס דו-מפלגתי רחב שבינה מלאכותית מהווה איום, המחוקקים היו חלוקים בכללים לוויסות השימוש בה או פיתוחה.

(מקור: פוקס ניוז; וושינגטון פוסט)

מוֹעִיל
רֶגֶשׁ
יְצִירָתִי
ייחודי
זַעַם