AI는 인간과 마찬가지로 비이성적인 실수를 하며 편견을 가지고 있습니다.

AI는 명확한 프로세스와 고정된 공식이 있는 문제를 해결했을 때 가장 잘 작동합니다. 하지만 주관적인 판단이 필요하거나 개인적 선호도가 관련된 상황을 다룰 때 AI는 인간과 마찬가지로 실수를 할 수 있습니다. - 사진: AI

캐나다와 호주의 5개 대학의 과학자들이 Manufacturing & Service Operations Management 저널에 발표한 새로운 연구에서는 ChatGPT(특히 OpenAI의 두 모델인 GPT-3.5와 GPT-4)가 인간 심리학에서 흔히 발견되는 18가지 주요 인지 편향(확인 편향, 소유 효과, 침몰 비용 오류, 확실성 심리학 등)에 미치는 영향을 평가했습니다.

실험 결과, 테스트 상황의 거의 절반에서 ChatGPT는 논리적 추론이 일관적이라는 평판에도 불구하고 비이성적이거나 감정적인 선택에 직면했을 때 사람과 똑같이 행동했습니다.

AI는 정말 예상대로 "공정"할까요?

아이비 경영대학원(캐나다) 운영 관리 부교수이자 본 연구의 주저자인 양 첸 박사는 "AI는 명확한 프로세스와 정해진 공식을 사용하여 문제를 해결할 때 가장 효과적으로 작동합니다. 하지만 주관적인 판단이나 개인적 선호가 필요한 상황에서는 AI가 인간처럼 실수를 할 수 있습니다."라고 말했습니다.

연구팀은 심리학에서 익숙한 가상 상황을 ChatGPT에 통합하여 재고 관리나 공급업체와의 협상과 같은 실제적 맥락을 추가했습니다.

질문의 맥락이 추상적인 것에서 비즈니스 현실로 바뀌어도 AI 모델은 여전히 ​​인지적 편향을 보인다는 점은 주목할 만합니다.

GPT-4는 더 똑똑하지만 완벽하지는 않습니다.

GPT-4는 논리나 확률 문제를 해결하는 데 탁월한 GPT-3.5의 업그레이드 버전입니다. 그러나 수익을 늘리기 위해 위험한 옵션을 선택하는 것과 같은 주관적인 시뮬레이션에서는 GPT-4가 인간보다 더 감정적인 경향을 보였습니다.

특히, 이 연구에서는 GPT-4가 확인 편향 테스트 상황에서 지속적으로 편향된 반응을 보였고, 무작위 사건이 연속적으로 반복될 것이라고 믿는 경향인 '핫핸드 오류'에 GPT-3.5보다 더 취약하다는 점을 지적했습니다.

이와 대조적으로 AI는 기본 비율 무시나 매몰 비용 오류 등 인간이 자주 저지르는 일부 편견을 피할 수 있습니다.

ChatGPT가 인간과 유사한 편향을 보이는 이유는 학습 데이터 자체에 우리 자신의 편향된 행동과 사고가 가득 차 있기 때문입니다. - 사진: AI

AI 편향의 기원: 인간 데이터에서

연구팀에 따르면, ChatGPT가 인간과 유사한 편향성을 보이는 이유는 훈련 데이터 자체에서 비롯되는데, 이 데이터는 우리의 편향된 행동과 사고로 가득 차 있습니다. AI가 인간의 피드백을 기반으로 미세 조정된다는 사실은 이러한 경향을 더욱 강화합니다. AI 모델은 완전히 정확한 응답보다는 합리적으로 보이는 응답에 대해 "보상"을 받기 때문입니다.

"정확하고 편견 없는 결과를 얻으려면 컴퓨터가 잘 수행할 수 있다고 이미 믿는 작업에 AI를 사용하세요."라고 Chen 박사는 권장합니다. "하지만 전략적이거나 감정적인 문제를 다루어야 하는 경우, 질문을 다시 표현하더라도 인간은 여전히 ​​모니터링하고 개입해야 합니다."

"AI는 중요한 의사 결정권을 가진 직원으로 대우받아야 하며, 이는 AI에 대한 모니터링과 윤리적 준수가 필요하다는 것을 의미합니다. 그렇지 않으면 잘못된 사고를 개선하는 대신 의도치 않게 자동화하게 될 것입니다."라고 맥마스터 대학교(캐나다) 인적자원 및 경영학과 부교수이자 공동 저자인 미나 안디아판은 말했습니다.

더 읽어보세요 주제로 돌아가기

주제로 돌아가기

민하이

출처: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm