"אבי" הצ'אט GPT משתף את הפחד הגדול ביותר שלו מפני בינה מלאכותית

[מודעה_1]

"הפחד הכי גדול שלי הוא שנגרום נזק חמור - אנחנו, התחום הזה, תעשיית הטכנולוגיה - לעולם . אני חושב שזה יכול לקרות במספר דרכים שונות. זו הסיבה שהקמנו את החברה הזו", אמר אלטמן במהלך דיון בפני תת-הוועדה לענייני פרטיות, טכנולוגיה וחוק של הסנאט ב-16 במאי.

הפחד הכי גדול: בינה מלאכותית יכולה לטעות

"אנשים חושבים שאם הטכנולוגיה הזו תשתבש, היא עלולה להשתבש, ואנחנו רוצים להשמיע את קולנו בנושא. אנחנו רוצים לעבוד עם הממשלה כדי למנוע את זה", אמר אלטמן, מנכ"ל OpenAI (המפתחת של ChatGPT).

מנכ"ל OpenAI, סם אלטמן, מושבע במהלך דיון בפני ועדת המשנה לענייני משפט בסנאט. (צילום: וושינגטון פוסט)

בעדותו הראשונה בקונגרס , קרא אלטמן גם לרגולציה רחבה, כולל סוכנות ממשלתית חדשה האחראית על רישוי מודלים של בינה מלאכותית, כדי לטפל בחששות הגוברים שבינה מלאכותית עלולה לעוות את המציאות וליצור סיכוני בטיחות חסרי תקדים.

מר אלטמן נקט עמדה רצינית בנוגע לדרכים בהן בינה מלאכותית עלולה "לגרום נזק משמעותי לעולם", והביע נכונות לעבוד עם מחוקקים כדי לטפל בסיכונים שמציבים כלי ChatGPT של חברתו וכלי בינה מלאכותית אחרים.

מר אלטמן תיאר התנהגויות "מסוכנות" שמאפשרת טכנולוגיה כמו ChatGPT, כולל הפצת "מידע שגוי אינטראקטיבי חי" ומניפולציה רגשית. הוא הודה כי ניתן להשתמש בבינה מלאכותית כדי למקד התקפות באמצעות רחפנים.

"אם הטכנולוגיה הזו תשתבש, זה עלול להיות רע", הוא אמר.

עם זאת, במהלך כמעט שלוש שעות של דיון על ההשלכות הקשות הפוטנציאליות, התעקש מר אלטמן כי חברתו תמשיך לפרוס טכנולוגיית בינה מלאכותית.

במקום לקחת סיכון, הוא טוען, "פריסות איטרטיביות" של מודלי הבינה המלאכותית של OpenAI נותנות לארגונים זמן להבין איומים פוטנציאליים, מהלך אסטרטגי שמכניס לעולם טכנולוגיה "חלשה יחסית" ו"לא מושלמת" כדי לסייע בחשיפת סיכוני הבטיחות הנלווים.

איור של אפליקציית ChatGPT, המאפשרת למחשבים לשוחח בצ'אט עם משתמשים כמו עם בני אדם.

במהלך השבועות האחרונים, מר אלטמן היה בסיור עולמי של רצון טוב, ונפגש באופן פרטי עם קובעי מדיניות, כולל הנשיא ביידן וחברי קונגרס, כדי להתייחס לחששות בנוגע לפריסה המהירה של ChatGPT וטכנולוגיות אחרות.

השימוע ב-16 במאי מסמן את ההזדמנות הראשונה לציבור הרחב לשמוע את המסר שלו, בתקופה שבה וושינגטון מתקשה יותר ויותר לווסת טכנולוגיה ששיבשה מקומות עבודה, אפשרה הונאה והפצה מידע שגוי.

בניגוד מוחלט לשימועים עם מנכ"לים אחרים בתעשיית הטכנולוגיה, כמו שו זי צ'ו מטיקטוק ומארק צוקרברג ממטא, חברי הפרלמנט האמריקאים העניקו לאלטמן קבלת פנים חמה יחסית.

הם נראו במצב הקשבה, והביעו פתיחות לשקול הצעות של אלטמן ושני עדים נוספים בדיון: כריסטינה מונטגומרי, בכירה ב-IBM, ופרופסור אמריטוס מאוניברסיטת ניו יורק, גארי מרקוס.

במהלך דיון של תת-הוועדה לענייני פרטיות, טכנולוגיה וחוק בסנאט, הביעו מחוקקים חששות עמוקים מההתפתחות המהירה של הבינה המלאכותית, וטענו כי ההתקדמות האחרונה עשויה להיות טרנספורמטיבית יותר מהאינטרנט, או מסוכנת כמו פצצת האטום.

"זו ההזדמנות שלכם לספר לנו איך לעשות את זה נכון", אמר הסנאטור ג'ון נילי קנדי לעדים. "נצלו אותה".

מחוקקים משתי המפלגות הביעו פתיחות לרעיון של הקמת סוכנות ממשלתית שתפקידה לווסת את פיתוח הבינה המלאכותית, אם כי מאמצים קודמים ליצור סוכנות ספציפית עם פיקוח של עמק הסיליקון נכשלו בקונגרס, שכן המפלגות היו חלוקות בשאלה כיצד לעצב סוכנות כה ענקית.

לא ברור אם הצעה כזו תזכה לתמיכה רחבה בקרב הרפובליקנים, שבדרך כלל חוששים מהרחבת כוח הממשלה. הסנאטור ג'וש האולי, רפובליקני ממיזורי, הזהיר כי סוכנות כזו עלולה "להיות לכודה על ידי האינטרסים שהם אמורים לווסת".

הסנאטור ריצ'רד בלומנטל, יו"ר ועדת המשנה, שיבח את עדותו של מר אלטמן בדיון: "סם אלטמן שונה לחלוטין ממנכ"לים אחרים... לא רק במילותיו וברטוריקה שלו, אלא גם במעשיו בפועל ובנכונותו לעסוק ולהתחייב לפעולה קונקרטית."

השימוע עם המנכ"ל אלטמן מגיע על רקע דאגה גוברת בקרב קובעי המדיניות בוושינגטון בנוגע לאיומים שמציבה בינה מלאכותית, כמו ChatGPT וכלי בינה מלאכותית חדשניים אחרים, במיוחד בכל הנוגע לדיסאינפורמציה, פרטיות נתונים, הפרת זכויות יוצרים ואבטחת סייבר.

מחוקקים הביעו צער על גישתם הרופפת יחסית לתעשיית הבינה המלאכותית עוד לפני בחירות 2016. השימוע הראשון שלהם עם מנכ"ל מטא, צוקרברג, התקיים בשנת 2018, כאשר פייסבוק כבר הייתה ענקית וטרייה משערוריית קיימברידג' אנליטיקה שאספה נתונים מ-87 מיליון משתמשי פייסבוק.

באותה תקופה, למרות קונצנזוס דו-מפלגתי רחב כי בינה מלאכותית מהווה איום, המחוקקים לא הצליחו להסכים על כללים שיסדירו את השימוש בה או את פיתוחה.

(מקור: עיתון טין טוק/פוקס ניוז; וושינגטון פוסט)

מוֹעִיל
רֶגֶשׁ
יְצִירָתִי
ייחודי
זַעַם