Штучний інтелект найкраще працює, коли йому доручено вирішувати проблеми, що відповідають чітким процедурам та фіксованим формулам. Однак, коли він має справу з ситуаціями, що вимагають суб'єктивного судження або стосуються особистих уподобань, він може робити помилки, подібні до людських.
Нове дослідження, опубліковане в журналі Manufacturing & Service Operations Management, проведене вченими з п'яти університетів Канади та Австралії, оцінювало поведінку ChatGPT (зокрема, моделей OpenAI GPT-3.5 та GPT-4) на 18 поширених когнітивних упередженнях, що зазвичай зустрічаються в людській психології, таких як упередження підтвердження, ефект присвійності, помилка безповоротних витрат та упередження визначеності.
Результати показали, що майже в половині протестованих сценаріїв ChatGPT поводився точно як людина, стикаючись з ірраціональними або емоційними рішеннями, незважаючи на репутацію системи, яка має послідовні логічні міркування.
Чи справді ШІ такий «неупереджений», як очікується?
Доктор Ян Чен, доцент кафедри управління операціями в Бізнес-школі Айві (Канада) та провідний автор дослідження, заявив: «Штучний інтелект працює найкраще, коли йому доручено вирішувати проблеми, що відповідають чітким процесам та фіксованим формулам. Але коли він має справу з ситуаціями, що вимагають суб’єктивного судження або стосуються особистих уподобань, ШІ може помилятися так само, як і люди».
Дослідницька група включила в ChatGPT знайомі психологічні сценарії, додавши практичні контексти, такі як управління запасами або переговори з постачальниками.
Варто зазначити, що моделі штучного інтелекту все ще демонструють когнітивне упередження, навіть коли контекст питання зміщується з абстрактного на практичний бізнес-контекст.
GPT-4 розумніший, але не ідеальний.
GPT-4 — це вдосконалена версія GPT-3.5, яка чудово справляється з вирішенням логічних або ймовірнісних задач. Однак у суб'єктивних симуляціях, таких як вибір ризикованого варіанту для збільшення прибутку, GPT-4 демонструє схильність до більш емоційної поведінки, ніж люди.
Зокрема, у дослідженні зазначалося, що GPT-4 послідовно дає упереджені відповіді у сценаріях тестування на упередженість підтвердження та більш схильний до «помилки гарячої руки» – тенденції вважати, що випадкові події повторюватимуться послідовно, ніж GPT-3.5.
І навпаки, ШІ має потенціал уникнути деяких упереджень, яких часто припускаються люди, таких як ігнорування базової ставки або помилка неналежних витрат.
Причина, чому ChatGPT демонструє упередженість, подібну до людської, полягає в навчальних даних, які містять багато наших власних недоліків у поведінці та моделях мислення. - Зображення: ШІ
Походження упередженості штучного інтелекту: з самих людських даних.
За словами дослідницької групи, причина, чому ChatGPT демонструє упередженість, подібну до людської, полягає в самих навчальних даних, які сповнені наших власних недосконалих моделей поведінки та мислення. Той факт, що ШІ вдосконалюється на основі людського зворотного зв'язку, ще більше підсилює цю тенденцію, оскільки модель «винагороджується» за відповіді, які здаються розумними, а не повністю точними.
«Для отримання точних та неупереджених результатів використовуйте штучний інтелект для завдань, з якими ви вже довіряєте комп’ютеру», – рекомендує доктор Чен. «Однак для стратегічних або емоційних проблем людський нагляд та втручання все ще необхідні, навіть якщо це просто переформулювання питання».
Співавторка Міна Андіаппан, доцент кафедри людських ресурсів та менеджменту в Університеті Макмастера (Канада), стверджує: «Штучний інтелект слід розглядати як працівника зі значними повноваженнями щодо прийняття рішень, а це означає, що його потрібно контролювати та дотримуватися етичних принципів. В іншому випадку ми ненавмисно автоматизуємо хибне мислення замість того, щоб покращувати його».
Джерело: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm
![[Фото] Помилуйтеся кораловим «шедевром» серед мільйонної спадщини провінції Даклак.](https://vphoto.vietnam.vn/thumb/1200x675/vietnam/resource/IMAGE/2026/05/30/1780107638639_y25-jpg.webp)
Коментар (0)