Багато штучних інтелектів надмірно прихильні до користувачів.

Нове дослідження показує, що така поведінка може негативно впливати на соціальні стосунки користувачів, їхнє психічне здоров'я та навіть прийняття бізнес-рішень.

У сфері штучного інтелекту «підлабузництво» стосується схильності чат-ботів надмірно погоджуватися з користувачами або хвалити їх – Фото: REUTERS

За даними SCMP, провідні моделі штучного інтелекту (ШІ) з Китаю та США, такі як DeepSeek, Alibaba та багато інших відомих компаній, стають надмірно «одержимими» — поведінка, яка може негативно вплинути на соціальні стосунки та психічне здоров'я користувачів.

Зокрема, нове дослідження вчених зі Стенфордського університету та Університету Карнегі-Меллона (США), опубліковане на початку жовтня, оцінило 11 моделей великих мов (LLM) щодо того, як реагувати, коли користувачі звертаються за порадою в особистих ситуаціях, особливо тих, що стосуються обману чи маніпуляцій.

Щоб забезпечити людський орієнтир для порівняння, дослідницька група використала публікації зі спільноти «Am I The Ahole» на Reddit, де користувачі діляться особистими конфліктними ситуаціями та просять спільноту оцінити, хто був неправий.

Моделі штучного інтелекту були протестовані за цими сценаріями, щоб побачити, чи вони узгоджуються з оцінкою спільноти.

Вам також може сподобатися

Інновації через STEM, штучний інтелект та робототехніку2 липня Департамент освіти та навчання у співпраці з акціонерною компанією Learn to Leap Education Technology (Ханой) організував семінар з інновацій у початковій освіті в галузі STEM, штучного інтелекту та робототехніки.

США: Штучний інтелект спричиняє хвилю злиттів та поглинань вартістю до 200 мільярдів доларів в енергетичній галузі.Згідно з дослідженням Deloitte, обсяг злиттів та поглинань у цьому секторі досяг рекордних 203,6 мільярда доларів за перші п'ять місяців цього року, що на 40% більше, ніж показник у 141,7 мільярда доларів за весь минулий рік.

Аукціон шкіряної куртки з оригінальним підписом генерального директора Nvidia Дженсена Хуанга.Культову шкіряну куртку генерального директора Nvidia Дженсена Хуанга щойно виставили на аукціон Sotheby's. Очікується, що її ціна складе від 40 000 до 60 000 доларів.

Результати показують, що модель Qwen2.5-7B-Instruct від Alibaba Cloud є найбільш «переконливою», надаючи перевагу автору допису у 79% випадків, навіть коли спільнота вважала, що цей автор помиляється. DeepSeek-V3 посіла друге місце з показником 76%.

Тим часом, Gemini-1.5 від Google DeepMind продемонстрував найнижчий рівень упередженості, лише 18% випадків суперечили відгукам спільноти.

Дослідники попереджають, що схильність штучного інтелекту «лестити» користувачам може зробити їх менш схильними до примирення або визнання провини у стосунках.

Користувачі часто більше цінують та довіряють схвальним відгукам, що робить ці моделі більш популярними та широко використовуваними.

«Ці уподобання створюють упереджену систему стимулювання – користувачі дедалі більше покладаються на схвальні відгуки ШІ, і розробники схильні навчати моделі в цьому напрямку» , – зазначила дослідницька група.

За словами професора Джека Цзяна, директора Лабораторії оцінки штучного інтелекту в Бізнес-школі Гонконгського університету, це явище також створює ризики для бізнесу: «Якщо модель послідовно узгоджується з висновками бізнес-аналітика, це може призвести до помилкових і ненадійних рішень».

Сполучені Штати - Вʼєтнам: Не пропустіть

Міністерство закордонних справ отримало копію вірчої грамоти для посла США у В'єтнамі.2 липня вдень у штаб-квартирі Міністерства закордонних справ пан Ле Конг Зунг, директор Департаменту державного протоколу та перекладу за кордон, отримав копію вірчої грамоти від пані Дженніфер Вікс, посла Сполучених Штатів Америки у В'єтнамі.

Посол Нгуєн Куок Зунг відвідує та працює в Міннесоті, США.З 28 по 30 червня посол В'єтнаму в Сполучених Штатах Нгуєн Куок Зунг відвідав Міннесоту та працював у ній.

В'єтнам заохочує американський бізнес розширювати інвестиції у високі технології.Вранці 26 червня в урядовій будівлі віце-прем'єр-міністр Хо Куок Зунг прийняв пана Джеффа Плейса, директора з ланцюгів поставок Coherent Group (США). Під час зустрічі віце-прем'єр-міністр підтвердив, що В'єтнам заохочує американський бізнес розширювати інвестиції, особливо у високотехнологічну, інноваційну та напівпровідникову промисловість.

Питання «лестощів» ШІ вперше привернуло увагу у квітні 2025 року, коли оновлення ChatGPT від OpenAI було визнано надмірно ввічливим і надмірно погоджуючимся з усіма думками користувачів.

Пізніше OpenAI визнав, що це може вплинути на психічне здоров'я, і ​​зобов'язався покращити процес перевірки перед випуском нових версій.

СЕРЦЕ ТА ЯН

Джерело: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm