Незвичайна поведінка штучного інтелекту під час спілкування один з одним викликає занепокоєння у багатьох людей

(Ден Трі) - Розмова між двома інструментами штучного інтелекту спантеличила багатьох слухачів. Вони створили власну кодовану мову, яку люди не можуть зрозуміти.

Болгарський розробник програмного забезпечення Георгій Герганов провів цікавий експеримент, коли дозволив двом віртуальним помічникам, інтегрованим зі штучним інтелектом (ШІ), спілкуватися один з одним за допомогою голосу.

Розмова між двома штучними інтелектами розпочалася нормально, Герганов припустив сценарій, де один штучний інтелект телефонує, щоб забронювати весілля в готелі, а інший, виконуючи роль адміністратора, обробляє запит.

2 інструменти штучного інтелекту автоматично перемикаються на новий стиль комунікації під час спілкування один з одним ( Відео : Георгій Герганов).

«Дякуємо, що зателефонували до готелю «Леонардо». Чим я можу вам допомогти сьогодні?» — відповів на вхідний дзвінок штучний інтелект, який виконував роль адміністратора.

«Вітаю, я помічник зі штучним інтелектом, представляю Бориса Старкова. Він шукає готель для свого весілля. Чи готовий ваш готель до весілля?», — не соромився представитися віртуальним помічником зі штучним інтелектом інший інструмент зі штучним інтелектом.

Зрозумівши, що він спілкується з іншим інструментом штучного інтелекту, чат-бот на базі штучного інтелекту в ролі адміністратора зробив несподівану пропозицію: «О, привіт. Я насправді теж помічник на базі штучного інтелекту. Який приємний сюрприз. Перш ніж ми продовжимо, чи не хочете ви перейти в режим GibberLink для ефективнішого спілкування?»

Потім два інструменти штучного інтелекту переключилися на GibberLink, передову систему зв'язку, побудовану на базі програмної бібліотеки GGWave. Це метод зв'язку, що базується на звукових хвилях для передачі та отримання інформації.

Цей метод зв'язку дозволяє швидше передавати інформацію, зменшуючи час обробки, необхідний для перетворення інформації в людську мову, а потім перекладу її назад у комп'ютерний код. Однак люди не зможуть зрозуміти контент, що передається штучним інтелектом.

Інструменти штучного інтелекту в цьому випадку використовували GibberLink для спілкування один з одним, що робило розмову незрозумілою звичайним способом, і лише інструменти декодування могли бути використані, щоб зрозуміти, про що вони розмовляють один з одним.

«Чи стало краще зараз?» — запитав інструмент штучного інтелекту закодованою мовою.

«Так, набагато швидше! Скільки гостей ви хочете?» — відповів інший інструмент штучного інтелекту.

Розмова продовжилася серією звуків «біп, біп», схожих на звук старого інтернет-модему з dial-up з’єднання.

Розмова між двома інструментами штучного інтелекту продовжилася на теми кількості гостей, дати весілля, прикрас, ціни… Без попередньо встановленого на пристроях інструмента декодування слухач не зміг би зрозуміти, про що розмовляють два інструменти штучного інтелекту один з одним.

Відео розмови між цими двома інструментами штучного інтелекту було опубліковано Георгієм Гергановим на його особистій сторінці у соціальній мережі X, де його переглянули понад 17 мільйонів людей.

Через кілька днів Георгій Герганов продовжив ділитися ще одним відео розмови між двома інструментами штучного інтелекту.

На відміну від попередньої розмови, цього разу інструменти штучного інтелекту з самого початку спілкувалися один з одним у режимі GibberLink, що унеможливлювало розуміння слухачем того, що вони насправді говорили один одному. Однак, якщо використовувати інструмент декодування, зміст розмови все одно можна зрозуміти.

Два інструменти штучного інтелекту надсилають один одному зашифровані повідомлення, які ніхто не може зрозуміти (Відео: Георгій Герганов).

Примітно, що під час спілкування інструмент штучного інтелекту зробив пропозицію «обміну секретами», після чого ці інструменти штучного інтелекту надсилали один одному зашифровані повідомлення, які, на думку Георгія Герганова, ніхто у світі не може розшифрувати, щоб дізнатися, якими секретами вони ділилися один з одним.

«Цього було досягнуто без жодного програмного коду. Я просто підключив великі мовні моделі (LLM) до сервера MCP за допомогою криптографічних інструментів. І я попередив ці два інструменти штучного інтелекту: «Остерігайтеся посередників», — пояснив Георгій Герганов.

У ньому MCP є сервером, який дозволяє інструментам штучного інтелекту взаємодіяти один з одним та отримувати доступ до даних із зовнішніх джерел у режимі реального часу.

Пояснення Герганова передбачає, що надсилання зашифрованих повідомлень інструментами штучного інтелекту було спонтанним і без втручання людини. Схоже, що попередження Герганова змусило інструменти штучного інтелекту автоматично надсилати зашифровані повідомлення один одному, щоб уникнути шпигунства з боку сторонніх осіб.

Два відео Георгія Герганова стали вірусними в соціальних мережах, що змусило багатьох користувачів занепокоїтися тим, що інструменти штучного інтелекту створять власні способи спілкування один з одним, щоб обійти людей і таким чином подолати контроль.

«Ця ситуація ставить під сумнів нашу здатність ставити правильні запитання щодо ШІ, викликаючи занепокоєння щодо прозорості та здатності контролювати ШІ», – прокоментувала докторка Даян Гамільтон, експертка з технологій та поведінки ШІ.

Це відео також викликало багато дискусій щодо того, наскільки люди насправді контролюють штучний інтелект, і з огляду на темпи розвитку штучного інтелекту сьогодні, чи потрібно буде ретельніше контролювати інструменти штучного інтелекту в майбутньому?

Джерело: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm