חששות שבינה מלאכותית יכולה לקרוא מחשבות ולתמרן החלטות אנושיות

(CLO) המחקר האחרון מאוניברסיטת קיימברידג' חשף אמת מדאיגה: בינה מלאכותית אינה רק כלי תמיכה, אלא גם בעלת היכולת לתמרן את מחשבותינו, ולהפוך אותנו לבובות במחזה טכנולוגי.

חוקרים טבעו מושג חדש בשם " כלכלת הכוונות". בכלכלה זו, חברות יכולות לאסוף ולנתח כמויות גדולות של נתונים על ההתנהגות, ההעדפות וההרגלים שלנו כדי לחזות מה נעשה הלאה.

לאחר מכן הם יכולים למכור את המידע הזה לעסקים אחרים שרוצים למקד את הפרסום שלהם אלינו בצורה מדויקת יותר.

כל אחד יכול לקרוא את מחשבותיהם של אנשים ולהשפיע על החלטותיהם תמונה 1 — לבינה מלאכותית יש את היכולת לעצב את המחשבות והמעשים שלנו. איור: בינה מלאכותית

לדוגמה, נניח שאתם מחפשים טלפון חדש. בינה מלאכותית תעקוב אחר ההתנהגות שלכם באינטרנט, אחר מילות המפתח שאתם מחפשים ואפילו אחר השיחות שלכם כדי להבין טוב יותר את הצרכים שלכם. חברות הטלפון יכולות להשתמש במידע הזה כדי להציג לכם מודעות על טלפונים המתאימים לכם ביותר.

ד"ר ג'וני פן, היסטוריון של טכנולוגיה מאוניברסיטת קיימברידג', הזהיר: "אם לא תיבדק, כלכלת הכוונה עלולה להפוך לכלי למניפולציה של ההחלטות שלנו. חברות עלולות להשתמש בבינה מלאכותית כדי לגרום לנו לקנות מוצרים שאנחנו לא צריכים, או אפילו להשפיע על החלטות ההצבעה שלנו."

המחברים אמרו גם שמודל בינה מלאכותית ינוהל שיחות כדי לשרת מפרסמים, עסקים וצדדים שלישיים אחרים. מפרסמים יוכלו להשתמש בכלי הבינה המלאכותית שיתקבלו כדי ליצור מודעות מקוונות מותאמות אישית.

הדו"ח מצטט דוגמה של מודל בינה מלאכותית שנוצר על ידי מטה, בשם Cicero, שהשיג יכולת "ברמה אנושית" לשחק את משחק הלוח Diplomacy - משחק שלדברי המחברים תלוי בהסקה וחיזוי כוונותיהם של היריבים.

מומחים מובילים בתחום הטכנולוגיה הזהירו מפני יכולתה של בינה מלאכותית לחזות ולהשפיע על התנהגות אנושית.

באופן ספציפי, מנכ"ל Nvidia, ג'נסן הואנג, שיתף דעה בולטת בנאום שנשא בשנה שעברה. הוא טען שמודלים מתקדמים של בינה מלאכותית יוכלו "להבין מהן הכוונות שלכם, מהן הרצונות שלכם, מה אתם מנסים לעשות, ולהציג לכם מידע בצורה הטובה ביותר."

Hoang Anh (על פי CUN, Nvidia, Guardian)

[מודעה_2]
מקור: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html