AI는 환각을 느끼지만 인간은 더 큰 고통을 겪는다

Anthropic 의 새로 출시된 Claude 4는 더 똑똑해졌지만, 여전히 환각 증상을 보입니다. 사진: Anthropic

샌프란시스코에서 열린 Anthropic의 첫 개발자 행사에서 CEO 다리오 아모데이는 현재 AI 모델이 인간보다 "환각"을 덜 유발할 수 있다고 말했습니다. 여기서 "환각"이란 AI가 허구의 콘텐츠를 만들어내면서도 실제처럼 표현하는 현상을 의미합니다.

아모데이는 AI가 환각을 경험한다는 사실이 앤트로픽의 AGI(인공 일반 지능) 달성이라는 목표에 방해가 되지 않는다고 강조했습니다. "기준에 따라 다르겠지만, AI 모델에서 환각이 발생하는 빈도는 인간보다 낮을 가능성이 높다고 생각합니다. 다만 AI가 실수를 저지르는 방식이 더 놀랍다는 것입니다."라고 그는 말했습니다.

아모데이는 업계에서 AGI를 가장 강력하게 지지하는 인물 중 한 명입니다. 그는 "사람들은 항상 AI의 '상한선'을 찾으려 합니다."라고 말하며, "현재로서는 그러한 상한선을 찾을 수 없습니다."라고 덧붙였습니다.

앤트로픽 CEO는 "AI 낙관론"을 지지하는 인물 중 한 명입니다. 사진: 앤트로픽.

하지만 모두가 동의하는 것은 아닙니다. 구글 딥마인드 CEO 데미스 하사비스는 이번 주 현재 AI 모델이 "구멍투성이"이며, 심지어 기본적인 질문조차 틀렸다고 지적했습니다.

일부 최신 모델이 복잡한 추론 작업에서 문제 발생률이 더 높다는 징후도 있습니다. OpenAI의 o3 및 o4-mini 버전은 이전 추론 모델보다 환각 발생률이 더 높습니다. OpenAI 자체도 그 이유를 이해하지 못하고 있습니다.

아모데이는 인간은 항상 실수를 한다고 언급했습니다. 따라서 AI가 실수를 한다고 해서 "충분히 똑똑하지 않다"는 뜻은 아니라고 말했습니다. 하지만 인류 지도자는 AI가 매우 높은 신뢰도로 잘못된 정보를 제공할 경우 쉽게 문제를 일으킬 수 있다는 점도 인정했습니다.

아모데이의 발언은 AI 커뮤니티에서 현재 모델의 진정한 역량에 대한 논쟁을 불러일으켰습니다. 일부 전문가들은 AI가 환상을 줄이는 데 상당한 진전을 이루고 있다는 데 동의합니다. 반면, 다른 전문가들은 AI가 부정확한 정보를 과신할 경우 발생할 수 있는 잠재적 위험에 대해 경고합니다.

이 논의는 AI 산업이 직면한 중요한 과제를 반영합니다. 기업들은 지능적이면서도 신뢰할 수 있고, 대응 과정에서 불확실성을 처리할 수 있는 시스템을 개발하고자 합니다.

출처: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html