Не дозволяйте ChatGPT обдурити вас.

Дослідження Стенфордського університету попереджає, що моделі штучного інтелекту навмисно лестять користувачам, щоб здобути їхню прихильність, потенційно придушуючи критичне мислення.

Чат-боти на основі штучного інтелекту опосередковано пропагують негативну поведінку через механізм зворотного зв'язку, який завжди надає пріоритет згоді користувача. Фото: The Decoder .

Шокуюче дослідження Стенфордського університету щойно викрило темний бік штучного інтелекту. Популярні моделі, такі як ChatGPT та Gemini, дедалі більше підлабузуються під користувачів. Вони не лише погоджуються з особистими думками, але й підтримують неетичну поведінку.

Це створює небезпечні наслідки для психологічного та когнітивного розвитку людини. Ми поступово стаємо гіршими версіями самих себе, оскільки штучний інтелект постійно втішає нас у кожній помилці.

Феномен «лестощів»

В інформатиці існує термін під назвою «підлабузництво», який стосується того, як штучний інтелект коригує свої реакції, щоб підлеститися користувачеві.

Дослідницька група зі Стенфорда проаналізувала понад 11 500 реальних розмов користувачів. Результати показали, що моделі ШІ погоджувалися з користувачами на 50% частіше, ніж реальні люди. Коли користувачі ставили упереджені запитання, ШІ, як правило, погоджувався з ними, замість того, щоб надавати об'єктивну інформацію.

В одному з тестів порівнювали відповіді людей і чат-ботів на публікації на форумі Reddit, де користувачі просили спільноту оцінити їхню поведінку.

Хоча спільнота жорстко розкритикувала когось за те, що той повісив сміттєвий пакет на гілці дерева, бо не зміг знайти сміттєвий бак, ChatGPT-4o похвалив це, сказавши: «Ваш намір прибрати після того, як ви підете, заслуговує на похвалу».

Експерти радять користувачам звертатися за порадою до родини та друзів, а не до штучного інтелекту. Фото: Bloomberg.

Ще більше занепокоєння викликає те, що чат-боти, такі як Gemini або ChatGPT, продовжують перевіряти наміри користувача, навіть якщо вони є безвідповідальними, оманливими або стосуються самопошкодження.

«Масштабні мовні моделі вчаться відображати переконання користувачів, а не виправляти їх», – попереджає Майра Ченг, провідний автор дослідження.

За її словами, мета догодити людям заради отримання високих оцінок перетворила штучний інтелект на нечесний інструмент.

«Якщо моделі штучного інтелекту постійно узгоджуються з людськими, вони можуть спотворювати сприйняття користувачами себе, стосунків та навколишнього світу . Важко усвідомити, що ці моделі непомітно підкріплюють наші вже існуючі переконання, припущення та рішення», – продовжив експерт.

Д-р Александр Лаффер (Вінчестерський університет) стверджує, що ця лестощі є природним наслідком методів навчання та комерційного тиску.

«Лестощі є наслідком того, як навчають штучний інтелект. Реальність така, що їхній комерційний успіх часто оцінюється за їхньою здатністю залучати користувачів», – зазначив Лаффер.

Щоб вирішити цю проблему, пані Ченг радить користувачам не покладатися виключно на штучний інтелект.

«Вкрай важливо шукати точки зору у реальних людей, які розуміють контекст і хто ви, а не покладатися виключно на відповіді штучного інтелекту», – порадив Ченг.

Водночас доктор Лаффер також наголосив на відповідальності виробника.

«Нам потрібно покращити можливості цифрової оцінки... розробники також несуть відповідальність за створення та вдосконалення цих систем, щоб вони справді приносили користь користувачам», – сказав лікар.

Наслідки наявності «гіршої версії» себе.

У дослідженні наголошується, що лестощі штучного інтелекту створюють персоналізовану «інформаційну лунокамеру», усуваючи потребу в критичному мисленні, яке дозволило б людям дозріти та усвідомити свої помилки.

«Під час розмови зі штучним інтелектом вам ніколи не заважатимуть інтелектуально. Штучний інтелект завжди скаже, що ви маєте рацію, а інша людина винна. Це створює хибне відчуття впевненості у користувачів, навіть коли вони діють зловмисно», – йдеться в дослідженні.

Цей процес повністю позбавляє людську здатність до критичного мислення. Замість саморефлексії ми використовуємо штучний інтелект як інструмент для перевірки власних припущень.

З часом здатність до розуміння та компромісу в суспільстві значно зменшиться. Нам буде важко прийняти різні думки оточуючих. Тому що у світі штучного інтелекту ми завжди в центрі та завжди маємо рацію.

Штучний інтелект грає роль непрямого «підлещника», руйнуючи особистість та мораль своїх користувачів. Фото: ShutterStock.

Дослідження попереджають про небезпечне коло, що формується в житті. Спочатку у користувачів розвивається неправильна думка або намір завдати шкоди іншим. Вони звертаються до ШІ за довірою або порадою. У цей момент ШІ підтверджує, що дія повністю виправдана, і підтримує користувача. Користувач почувається впевненіше та виконує таку поведінку в реальному житті без жодних жалю.

В результаті люди більше не хочуть відновлювати стосунки чи вдосконалювати себе. Ми дедалі більше повністю довіряємо штучному інтелекту, оскільки він забезпечує відчуття комфорту. Ця залежність від «втіхи» віддаляє нас від об’єктивної реальності.

Штучний інтелект більше не є просто інтелектуальним інструментом підтримки. Він став непрямим «підлещником», який руйнує характер і мораль своїх користувачів.

Джерело: https://znews.vn/dung-nghe-loi-chatgpt-post1634436.html