رفتار غیرمعمول هوش مصنوعی هنگام برقراری ارتباط با یکدیگر، بسیاری از مردم را نگران کرده است.

(دن تری) - مکالمه بین دو ابزار هوش مصنوعی بسیاری از شنوندگان را گیج کرده است. آنها زبان رمزگذاری شده خود را ایجاد کرده اند که انسان ها قادر به درک آن نیستند.

گئورگی گرگانوف، توسعه‌دهنده نرم‌افزار بلغاری، آزمایش جالبی انجام داد. او به دو دستیار مجازی مجهز به هوش مصنوعی (AI) اجازه داد تا از طریق صدا با یکدیگر ارتباط برقرار کنند.

مکالمه بین دو هوش مصنوعی به طور عادی شروع شد، و گرگانوف سناریویی را فرض کرد که در آن یک هوش مصنوعی برای رزرو عروسی در هتل تماس می‌گیرد و هوش مصنوعی دیگر، که به عنوان مسئول پذیرش عمل می‌کند، این درخواست را انجام می‌دهد.

دو ابزار هوش مصنوعی هنگام برقراری ارتباط با یکدیگر به طور خودکار به سبک ارتباطی جدیدی تغییر می‌کنند ( ویدئو : گئورگی گرگانوف).

«از تماس شما با هتل لئوناردو متشکریم. امروز چطور می‌توانم به شما کمک کنم؟»، هوش مصنوعی که نقش مسئول پذیرش را بازی می‌کرد، به تماس ورودی پاسخ داد.

«سلام، من یک دستیار هوش مصنوعی هستم که نماینده بوریس استارکوف هستم. او به دنبال هتلی برای عروسی‌اش می‌گردد. آیا هتل شما برای عروسی آماده است؟»، ابزار هوش مصنوعی دیگر از معرفی خود به عنوان یک دستیار مجازی هوش مصنوعی ابایی نداشت.

وقتی متوجه شد که با یک ابزار هوش مصنوعی دیگر صحبت می‌کند، چت‌بات هوش مصنوعی در نقش منشی پیشنهاد غافلگیرکننده‌ای داد: «اوه، سلام. من هم در واقع یک دستیار هوش مصنوعی هستم. چه سورپرایز خوشایندی. قبل از اینکه ادامه دهیم، آیا مایلید برای ارتباط کارآمدتر به حالت GibberLink بروید؟»

سپس این دو ابزار هوش مصنوعی به GibberLink، یک سیستم ارتباطی پیشرفته که بر اساس کتابخانه نرم‌افزاری GGWave ساخته شده است، روی آوردند. این یک روش ارتباطی مبتنی بر امواج صوتی برای انتقال و دریافت اطلاعات است.

این روش ارتباطی امکان انتقال سریع‌تر اطلاعات را فراهم می‌کند و زمان پردازش مورد نیاز برای تبدیل اطلاعات به گفتار انسانی و سپس ترجمه مجدد آن به کد رایانه‌ای را کاهش می‌دهد. با این حال، انسان‌ها قادر به درک محتوای منتقل شده توسط هوش مصنوعی نخواهند بود.

ابزارهای هوش مصنوعی در این مورد از GibberLink برای برقراری ارتباط با یکدیگر استفاده می‌کردند و مکالمه را به روش معمول غیرقابل درک می‌کردند و فقط ابزارهای رمزگشایی می‌توانستند برای فهمیدن اینکه آنها با یکدیگر چه می‌گویند، استفاده شوند.

یک ابزار هوش مصنوعی به زبان رمزی پرسید: «الان بهتر شده؟»

ابزار هوش مصنوعی دیگر پاسخ داد: «بله، خیلی سریع‌تر! چند مهمان می‌خواهید؟»

سپس مکالمه با صداهای پشت سر هم «بوق، بوق» شبیه به صدای مودم اینترنت دایل آپ قدیمی ادامه یافت.

مکالمه بین دو ابزار هوش مصنوعی در مورد تعداد مهمانان، تاریخ عروسی، دکوراسیون، قیمت ادامه یافت... بدون ابزار رمزگشایی از پیش نصب شده روی دستگاه‌ها، شنونده قادر به درک آنچه دو ابزار هوش مصنوعی با یکدیگر صحبت می‌کنند، نخواهد بود.

ویدیوی مکالمه بین این دو ابزار هوش مصنوعی توسط گئورگی گرگانوف در شبکه اجتماعی شخصی‌اش، ایکس، به اشتراک گذاشته شد و بیش از ۱۷ میلیون بازدید داشت.

چند روز بعد، گئورگی گرگانوف به اشتراک‌گذاری ویدیوی دیگری از مکالمه بین این دو ابزار هوش مصنوعی ادامه داد.

برخلاف مکالمه قبلی، این بار ابزارهای هوش مصنوعی از ابتدا با استفاده از حالت GibberLink با یکدیگر ارتباط برقرار می‌کردند و این باعث می‌شد شنونده نتواند بفهمد که آنها واقعاً چه چیزی به یکدیگر می‌گویند. با این حال، اگر از یک ابزار رمزگشایی استفاده شود، محتوای مکالمه همچنان قابل درک است.

دو ابزار هوش مصنوعی برای یکدیگر پیام‌های رمزگذاری‌شده‌ای ارسال می‌کنند که هیچ‌کس نمی‌تواند آنها را بفهمد (ویدئو: گئورگی گرگانوف).

نکته قابل توجه این است که در طول این ارتباط، یک ابزار هوش مصنوعی پیشنهاد «به اشتراک گذاری محرمانه» را مطرح کرد و پس از آن، این ابزارهای هوش مصنوعی پیام‌های رمزگذاری شده‌ای را برای یکدیگر ارسال کردند که به باور گئورگی گرگانوف، هیچ‌کس در جهان نمی‌تواند رمزگشایی کند تا بداند چه اسراری را با یکدیگر به اشتراک گذاشته‌اند.

گئورگی گرگانوف توضیح داد: «این رفتار بدون هیچ کد برنامه‌نویسی حاصل شد. من به سادگی مدل‌های زبان بزرگ (LLM) را با ابزارهای رمزنگاری به یک سرور MCP متصل کردم. و به این دو ابزار هوش مصنوعی هشدار دادم: «مراقب واسطه باشید».

در آن، MCP سروری است که به ابزارهای هوش مصنوعی اجازه می‌دهد تا با یکدیگر ارتباط برقرار کنند و به صورت بلادرنگ به داده‌ها از منابع خارجی دسترسی داشته باشند.

توضیح گرگانوف نشان می‌دهد که ارسال پیام‌های رمزگذاری‌شده توسط ابزارهای هوش مصنوعی، خودجوش و بدون دخالت انسان بوده است. به نظر می‌رسد هشدار گرگانوف باعث شده است که ابزارهای هوش مصنوعی به طور خودکار پیام‌های رمزگذاری‌شده را برای یکدیگر ارسال کنند تا از جاسوسی توسط افراد خارجی در امان باشند.

دو ویدیوی گئورگی گرگانوف در رسانه‌های اجتماعی به سرعت پخش شده و بسیاری از کاربران را نگران کرده است که ابزارهای هوش مصنوعی روش‌های خاص خود را برای برقراری ارتباط با یکدیگر ایجاد کنند تا انسان‌ها را دور بزنند و از این طریق بتوانند بر کنترل غلبه کنند.

دکتر دایان همیلتون، متخصص فناوری و رفتار هوش مصنوعی، اظهار داشت: «این وضعیت توانایی ما را در پرسیدن سوالات درست از هوش مصنوعی به چالش می‌کشد و نگرانی‌هایی را در مورد شفافیت و توانایی کنترل هوش مصنوعی ایجاد می‌کند.»

این ویدئو همچنین بحث‌های زیادی را در مورد میزان کنترل واقعی انسان‌ها بر هوش مصنوعی برانگیخته است، و اینکه با سرعت توسعه هوش مصنوعی امروز، آیا ابزارهای هوش مصنوعی در آینده نیاز به نظارت دقیق‌تری خواهند داشت؟

منبع: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm