Необычное поведение ИИ при общении друг с другом беспокоит многих людей

(Дэн Три) - Разговор двух инструментов ИИ оставил многих слушателей в замешательстве. Они создали свой собственный кодированный язык, который люди не могут понять.

Болгарский разработчик программного обеспечения Георгий Герганов провел интересный эксперимент, позволив двум виртуальным помощникам, интегрированным с искусственным интеллектом (ИИ), общаться друг с другом голосом.

Диалог между двумя ИИ начался как обычно: Джерганов предположил, что один ИИ звонит, чтобы забронировать свадьбу в отеле, а другой ИИ, играющий роль администратора, обрабатывает запрос.

2 инструмента ИИ автоматически переключаются на новый стиль общения при общении друг с другом ( Видео : Георгий Герганов).

«Спасибо, что позвонили в отель Leonardo. Чем я могу вам помочь сегодня?» — искусственный интеллект, выступающий в роли администратора, отвечает на входящий звонок.

«Здравствуйте, я помощник на основе искусственного интеллекта, представляющий Бориса Старкова. Он ищет отель для своей свадьбы. Ваш отель готов к свадьбе?» — другой инструмент на основе искусственного интеллекта не замедлил представиться как виртуальный помощник на основе искусственного интеллекта.

Осознав, что он общается с другим инструментом ИИ, чат-бот ИИ в роли администратора сделал удивительное предложение: «О, привет. На самом деле я тоже помощник ИИ. Какой приятный сюрприз. Прежде чем мы продолжим, не хотите ли вы переключиться в режим GibberLink для более эффективного общения?»

Затем два инструмента ИИ переключились на GibberLink — передовую систему связи, построенную на программной библиотеке GGWave. Это метод связи, основанный на звуковых волнах для передачи и получения информации.

Этот метод коммуникации позволяет быстрее передавать информацию, сокращая время обработки, необходимое для преобразования информации в человеческую речь и последующего перевода ее обратно в компьютерный код. Однако люди не смогут понять контент, передаваемый ИИ.

Инструменты ИИ в этом случае использовали GibberLink для общения друг с другом, что делало разговор непонятным обычным способом, и только с помощью инструментов декодирования можно было узнать, о чем они говорили.

«Стало ли лучше?» — спросил инструмент ИИ на закодированном языке.

«Да, гораздо быстрее! Сколько гостей вы хотите?» — ответил другой инструмент ИИ.

Затем разговор продолжился серией звуков «бип, бип», похожих на звук старого модема для коммутируемого доступа в Интернет.

Разговор между двумя инструментами ИИ продолжился на темы количества гостей, даты свадьбы, оформления, цены... Без предустановленного на устройствах инструмента декодера слушатель не смог бы понять, о чем говорят эти два инструмента ИИ.

Видеозапись разговора между этими двумя инструментами искусственного интеллекта была опубликована Георгием Гергановым на его личной странице в социальной сети X и собрала более 17 миллионов просмотров.

Несколько дней спустя Георгий Герганов продолжил делиться еще одним видео разговора между двумя инструментами ИИ.

В отличие от предыдущего разговора, на этот раз инструменты ИИ общались друг с другом с помощью режима GibberLink с самого начала, что делало невозможным для слушателя понять, что они на самом деле говорили друг другу. Однако, если использовать инструмент декодирования, содержание разговора все равно можно понять.

Два инструмента искусственного интеллекта отправляют друг другу зашифрованные сообщения, которые никто не может понять (Видео: Георгий Герганов).

Примечательно, что во время общения инструмент ИИ сделал предложение о «разделении секретов», после чего эти инструменты ИИ отправили друг другу зашифрованные сообщения, которые, по мнению Георгия Герганова, никто в мире не сможет расшифровать, чтобы узнать, какими секретами они делились друг с другом.

«Такое поведение было достигнуто без какого-либо программного кода. Я просто подключил большие языковые модели (LLM) к серверу MCP с криптографическими инструментами. И я предупредил эти два инструмента ИИ: «Остерегайтесь посредника», — объяснил Георгий Герганов.

В нем MCP — это сервер, который позволяет инструментам ИИ взаимодействовать друг с другом и получать доступ к данным из внешних источников в режиме реального времени.

Объяснение Герганова предполагает, что отправка зашифрованных сообщений инструментами ИИ была спонтанным поведением, без вмешательства человека. Похоже, что предупреждение Герганова заставило инструменты ИИ автоматически отправлять зашифрованные сообщения друг другу, чтобы избежать слежки со стороны посторонних.

Два видеоролика Георгия Герганова стали вирусными в социальных сетях, заставив многих пользователей опасаться, что инструменты искусственного интеллекта создадут собственные способы общения друг с другом, чтобы обойти людей и тем самым обойти контроль.

«Эта ситуация бросает вызов нашей способности задавать правильные вопросы ИИ, вызывая обеспокоенность относительно прозрачности и способности контролировать ИИ», — прокомментировала доктор Дайан Гамильтон, эксперт по технологиям и поведению ИИ.

Видео также вызвало много споров о том, насколько люди на самом деле контролируют ИИ, и, учитывая нынешние темпы развития ИИ, нужно ли будет в будущем более тщательно контролировать инструменты ИИ.

Источник: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm