Искусственный интеллект, как и люди, совершает иррациональные ошибки и проявляет предвзятость.

Несмотря на использование алгоритмов и огромных массивов данных, системы искусственного интеллекта (ИИ), такие как ChatGPT, по-прежнему подвержены распространенным когнитивным искажениям человека, а именно чрезмерной самоуверенности и предвзятости.

Искусственный интеллект лучше всего справляется с задачами, требующими решения в соответствии с четкими процедурами и фиксированными формулами. Однако в ситуациях, требующих субъективной оценки или учитывающих личные предпочтения, ИИ может совершать ошибки, подобные человеческим.

В новом исследовании, опубликованном в журнале Manufacturing & Service Operations Management и проведенном учеными из пяти университетов Канады и Австралии, оценивалось поведение ChatGPT (в частности, моделей GPT-3.5 и GPT-4 от OpenAI) в отношении 18 распространенных когнитивных искажений, встречающихся в психологии человека, таких как предвзятость подтверждения, эффект собственничества, ошибка невозвратных затрат и предвзятость уверенности.

Результаты показали, что почти в половине протестированных сценариев ChatGPT вел себя точно так же, как человек, сталкиваясь с иррациональными или эмоциональными решениями, несмотря на репутацию системы как инструмента последовательного логического мышления.

Действительно ли искусственный интеллект настолько «беспристрастен», как ожидалось?

Доктор Ян Чен, доцент кафедры управления операциями в бизнес-школе Ivey (Канада) и ведущий автор исследования, заявил: «Искусственный интеллект показывает наилучшие результаты, когда ему поручают решать задачи, которые следуют четким процессам и фиксированным формулам. Но когда дело доходит до ситуаций, требующих субъективной оценки или связанных с личными предпочтениями, ИИ может совершать ошибки, как и люди».

Исследовательская группа включила в ChatGPT знакомые психологические сценарии, добавив практические контексты, такие как управление запасами или переговоры с поставщиками.

Примечательно, что модели ИИ по-прежнему демонстрируют когнитивные искажения, даже когда контекст вопроса смещается от абстрактного к практическому деловому контексту.

GPT-4 умнее, но не идеален.

GPT-4 — это улучшенная версия GPT-3.5, которая превосходно справляется с решением логических задач и задач на вероятность. Однако в субъективных симуляциях, таких как выбор рискованного варианта для увеличения прибыли, GPT-4 проявляет тенденцию вести себя более эмоционально, чем человек.

В частности, в исследовании отмечалось, что GPT-4 неизменно дает предвзятые ответы в сценариях проверки предвзятости подтверждения и более склонен к «ошибке горячей руки», то есть к убеждению, что случайные события будут повторяться в определенной последовательности, чем GPT-3.5.

И наоборот, ИИ потенциально может помочь избежать некоторых предвзятых суждений, которые часто допускают люди, таких как игнорирование базовой ставки или ошибка невозвратных затрат.

Причина, по которой ChatGPT демонстрирует предвзятость, подобную человеческой, кроется в его обучающих данных, которые изобилуют нашими собственными ошибочными моделями поведения и мышления. - Изображение: ИИ

Источник предвзятости ИИ: сами данные, полученные от людей.

По мнению исследовательской группы, причина, по которой ChatGPT демонстрирует предвзятость, подобную человеческой, кроется в самих обучающих данных, которые полны наших собственных ошибочных моделей поведения и мышления. Тот факт, что ИИ совершенствуется на основе отзывов людей, еще больше усиливает эту тенденцию, поскольку модель «вознаграждается» за ответы, которые кажутся разумными, а не полностью точными.

«Для получения точных и объективных результатов используйте ИИ для задач, в решении которых вы уже доверяете компьютеру», — рекомендует доктор Чен. «Однако для стратегических или эмоциональных проблем человеческий контроль и вмешательство по-прежнему необходимы, даже если это просто переформулировка вопроса».

Соавтор Мина Андиаппан, доцент кафедры управления персоналом и менеджмента в Университете Макмастера (Канада), утверждает: «Искусственный интеллект следует рассматривать как сотрудника, обладающего значительной властью принимать решения, а это значит, что его необходимо контролировать и соблюдать этические принципы. В противном случае мы непреднамеренно автоматизируем ошибочное мышление вместо того, чтобы его улучшать».

Читать далее Вернуться на главную страницу

Вернемся к теме.

МИНЬХАЙ

Источник: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm