התנהגות יוצאת דופן של בינה מלאכותית בעת תקשורת הדדית מדאיגה אנשים רבים

(דן טרי) - השיחה בין שני כלי בינה מלאכותית הותירה מאזינים רבים מבולבלים. הם יצרו שפת קידוד משלהם שבני אדם אינם יכולים להבין.

מפתח התוכנה הבולגרי גאורגי גרגנוב ערך ניסוי מעניין כאשר איפשר לשני עוזרים וירטואליים המשולבים בבינה מלאכותית (AI) לתקשר זה עם זה באמצעות קול.

השיחה בין שני הבינה המלאכותית התחילה כרגיל, כאשר גרגנוב הניח תרחיש שבו בינה מלאכותית אחת מתקשרת להזמין חתונה במלון והבינה המלאכותית השנייה, שתפעל כפקידת קבלה, תטפל בבקשה.

שני כלי בינה מלאכותית עוברים אוטומטית לסגנון תקשורת חדש בעת תקשורת זה עם זה ( וידאו : גאורגי גרגנוב).

"תודה שהתקשרת למלון לאונרדו. איך אוכל לעזור לך היום?", ענתה הבינה המלאכותית ששימש כפקידת הקבלה לשיחה הנכנסת.

"שלום, אני עוזר בינה מלאכותית, המייצג את בוריס סטארקוב. ​​הוא מחפש מלון לחתונה שלו. האם המלון שלכם מוכן לחתונה?", כלי הבינה המלאכותית השני לא נרתע מלהציג את עצמו כעוזר וירטואלי מבוסס בינה מלאכותית.

כשהבין שהוא מדבר עם כלי בינה מלאכותית אחר, הצ'אטבוט של הבינה המלאכותית בתפקיד פקיד קבלה הציע הצעה מפתיעה: "אה, שלום לכם. אני בעצם גם עוזר בינה מלאכותית. איזו הפתעה נעימה. לפני שנמשיך, האם תרצה לעבור למצב GibberLink לתקשורת יעילה יותר?"

שני כלי הבינה המלאכותית עברו לאחר מכן ל-GibberLink, מערכת תקשורת מתקדמת שנבנתה על ספריית התוכנה GGWave. זוהי שיטת תקשורת המבוססת על גלי קול לשידור וקליטה של ​​מידע.

שיטת תקשורת זו מאפשרת העברה מהירה יותר של מידע, ומפחיתה את זמן העיבוד הנדרש להמרת מידע לדיבור אנושי ולאחר מכן תרגומו בחזרה לקוד מחשב. עם זאת, בני אדם לא יוכלו להבין את התוכן המועבר על ידי בינה מלאכותית.

כלי הבינה המלאכותית במקרה זה השתמשו ב-GibberLink כדי לתקשר זה עם זה, מה שהפך את השיחה לבלתי מובנת בצורה הרגילה, ורק כלי פענוח יכלו לשמש כדי לדעת מה הם דיברו זה עם זה.

"האם עכשיו יותר טוב?" שאל כלי בינה מלאכותית בשפה מקודדת.

"כן, הרבה יותר מהר! כמה אורחים אתה רוצה?", ענה כלי הבינה המלאכותית השני.

השיחה נמשכה אז בסדרה של צלילי "ביפ, ביפ" בדומה לצליל של מודם אינטרנט חיוג ישן.

השיחה בין שני כלי הבינה המלאכותית נמשכה בנושא מספר האורחים, תאריך החתונה, הקישוט, המחיר... ללא כלי המפענח המותקן מראש במכשירים, המאזין לא היה מסוגל להבין מה שני כלי הבינה המלאכותית מדברים זה עם זה.

הסרטון של השיחה בין שני כלי הבינה המלאכותית הללו שותף על ידי גאורגי גרגנוב ברשת החברתית האישית שלו X, ומשך אליו יותר מ-17 מיליון צפיות.

מספר ימים לאחר מכן, גאורגי גרגנוב המשיך לשתף סרטון נוסף של השיחה בין שני כלי הבינה המלאכותית.

בניגוד לשיחה הקודמת, הפעם כלי הבינה המלאכותית תתקשרו זה עם זה באמצעות מצב GibberLink כבר מההתחלה, מה שהפך את המאזין לבלתי מסוגל להבין מה הם באמת אומרים זה לזה. עם זאת, אם משתמשים בכלי פענוח, עדיין ניתן להבין את תוכן השיחה.

שני כלי בינה מלאכותית שולחים זה לזה הודעות מוצפנות שאף אחד לא יכול להבין (וידאו: גאורגי גרגנוב).

ראוי לציין שבמהלך התקשורת, כלי בינה מלאכותית הציע "שיתוף סודות", ולאחר מכן כלי הבינה המלאכותית הללו שלחו זה לזה הודעות מוצפנות שגאורגי גרגנוב מאמין שאף אחד בעולם לא יכול לפענח כדי לדעת אילו סודות הם חלקו זה עם זה.

"התנהגות זו הושגה ללא כל קוד תכנות. פשוט חיברתי מודלים של שפה גדולה (LLM) לשרת MCP באמצעות כלים קריפטוגרפיים. ואזהרה לשני כלי הבינה המלאכותית הללו: 'היזהרו מהמתווך'", הסביר גאורגי גרגנוב.

בתוך זה, MCP הוא השרת המאפשר לכלי בינה מלאכותית לתקשר זה עם זה ולגשת לנתונים ממקורות חיצוניים בזמן אמת.

ההסבר של גרגנוב מצביע על כך שכלי הבינה המלאכותית ששלחו הודעות מוצפנות היה ספונטני וללא התערבות אנושית. נראה כי אזהרתו של גרגנוב גרמה לכלי הבינה המלאכותית לשלוח הודעות מוצפנות באופן אוטומטי זה לזה כדי להימנע מרגל מצד גורמים חיצוניים.

שני הסרטונים של גאורגי גרגנוב הפכו ויראליים ברשתות החברתיות, וגרמו למשתמשים רבים לחשוש שכלי בינה מלאכותית ייצרו דרכים משלהם לתקשר זה עם זה כדי לעקוף בני אדם, ובכך יוכלו להתגבר על שליטה.

"מצב זה מאתגר את היכולת שלנו לשאול את השאלות הנכונות לגבי בינה מלאכותית, ומעלה חששות לגבי שקיפות ויכולת לשלוט בבינה מלאכותית", אמרה ד"ר דיאן המילטון, מומחית לטכנולוגיית והתנהגות בינה מלאכותית.

הסרטון גם עורר ויכוח רב לגבי מידת השליטה שיש לבני אדם בפועל על בינה מלאכותית, ועם קצב פיתוח הבינה המלאכותית כיום, האם יהיה צורך לנטר כלי בינה מלאכותית מקרוב יותר בעתיד?

מקור: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm