인공지능 역시 인간처럼 비합리적인 실수를 저지르고 편견을 드러냅니다.

AI - Ảnh 1. — 인공지능은 명확한 절차와 정해진 공식을 따르는 문제를 해결할 때 최고의 성능을 발휘합니다. 하지만 주관적인 판단이 필요하거나 개인적인 선호가 개입되는 상황에서는 인간과 마찬가지로 실수를 저지를 수 있습니다.

캐나다와 호주의 5개 대학 과학자 들이 수행하여 학술지 'Manufacturing & Service Operations Management' 에 발표된 새로운 연구는 확증 편향, 소유욕, 매몰 비용 오류, 확신 편향 등 인간 심리학에서 흔히 발견되는 18가지 주요 인지 편향에 대한 ChatGPT(구체적으로는 OpenAI의 GPT-3.5 및 GPT-4 모델)의 행동을 평가했습니다.

실험 결과에 따르면, ChatGPT는 논리적 추론에 뛰어나다는 평판에도 불구하고, 테스트된 시나리오의 거의 절반에서 비이성적이거나 감정적인 선택에 직면했을 때 사람과 똑같이 행동하는 것으로 나타났습니다.

인공지능은 과연 예상처럼 "공정"할까요?

캐나다 아이비 경영대학원의 운영 관리 부교수이자 이번 연구의 주저자인 양 첸 박사는 "인공지능은 명확한 절차와 정해진 공식을 따르는 문제를 해결할 때 최고의 성능을 발휘합니다. 하지만 주관적인 판단이 필요하거나 개인적인 선호가 개입되는 상황에서는 인공지능도 인간처럼 실수를 저지를 수 있습니다."라고 밝혔습니다.

연구팀은 익숙한 심리적 시나리오를 ChatGPT에 통합하고 재고 관리나 공급업체 협상과 같은 실질적인 맥락을 추가했습니다.

인공지능 모델은 질문의 맥락이 추상적인 것에서 실질적인 비즈니스 맥락으로 바뀌더라도 여전히 인지 편향을 보이는 점이 주목할 만하다.

GPT-4는 더 똑똑하지만 완벽하지는 않습니다.

GPT-4는 논리나 확률 문제를 해결하는 데 탁월한 성능을 보이는 GPT-3.5의 업그레이드 버전입니다. 하지만 위험을 감수하고 이익을 극대화하는 것과 같은 주관적인 상황에서는 인간보다 감정적으로 행동하는 경향을 보입니다.

특히, 해당 연구는 GPT-4가 확증 편향 테스트 시나리오에서 일관되게 편향된 반응을 보이며, 무작위 사건이 순차적으로 반복될 것이라고 믿는 경향인 "핫핸드 오류"에 더 취약하다는 점을 지적했습니다.

반대로, AI는 기본 비율 무시나 매몰 비용 오류와 같이 인간이 흔히 범하는 몇 가지 편향을 피할 수 있는 잠재력을 가지고 있습니다.

AI - Ảnh 2. — ChatGPT가 인간과 유사한 편향을 보이는 이유는 학습 데이터에 우리 자신의 결함 있는 행동과 사고 패턴이 많이 반영되어 있기 때문입니다. - 이미지: AI

AI 편향의 근원: 인간이 수집한 데이터 자체에 있다.

연구팀에 따르면 ChatGPT가 인간과 유사한 편향을 보이는 이유는 바로 학습 데이터 자체에 있으며, 이 데이터에는 인간의 잘못된 행동과 사고 패턴이 고스란히 반영되어 있기 때문입니다. 게다가 인간의 피드백을 기반으로 인공지능이 개선된다는 사실은 이러한 경향을 더욱 강화하는데, 모델은 완전히 정확한 답변보다는 합리적으로 보이는 답변에 대해 "보상"을 받기 때문입니다.

첸 박사는 "정확하고 편향되지 않은 결과를 얻으려면 컴퓨터가 이미 잘 처리할 수 있다고 믿는 작업에 AI를 활용하세요."라고 권고합니다. "하지만 전략적이거나 감정적인 문제의 경우, 질문을 다시 작성하는 것만으로도 인간의 감독과 개입이 여전히 필요합니다."

공동 저자인 미나 안디아판 맥마스터 대학교(캐나다) 인적 자원 및 경영학과 부교수는 "AI는 상당한 의사 결정 권한을 가진 직원으로 간주되어야 하며, 따라서 감독을 받고 윤리적 원칙을 준수해야 한다. 그렇지 않으면 의도치 않게 잘못된 사고방식을 자동화하여 개선하는 결과를 초래할 수 있다"고 주장합니다.

본론으로 돌아가서

민하이

출처: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm