인공지능은 복잡한 문제에 직면할수록 추론 능력이 저하된다.

VHO - 애플의 새로운 연구에 따르면 고급 AI 모델이 복잡한 문제에 직면했을 때 "완전히 무너질" 수 있다고 합니다. 이는 기계가 인간처럼 생각하는 단계인 범용 인공지능(GAI) 달성 가능성에 대한 심각한 의문을 제기합니다.

애플의 새로운 연구에 따르면 인공지능의 추론 능력은 복잡한 문제에 직면할수록 효율성이 떨어지는 것으로 나타났습니다.

모델이 강력할수록 '사고력'은 약해지는 것일까?

최근 발표된 보고서에서 애플 연구원들은 하노이 탑 문제 나 강 건너기 문제와 같이 난이도가 점점 높아지는 논리 문제를 처리하는 데 있어 대규모 추론 모델(LRM)의 성능을 평가했습니다.

결과는 충격적이었다. 고도로 복잡한 문제에 직면했을 때, 고급 AI 모델의 정확도는 저하될 뿐만 아니라 "완전히 붕괴"했다.

더욱 우려스러운 점은 성능이 급격히 떨어지기 전에 모델들이 추론 노력을 줄이기 시작했다는 것입니다. 이는 어려운 문제를 다룰 때는 더 많은 사고가 필요해야 한다는 직관과 상반되는 행동입니다.

많은 경우, 올바른 알고리즘을 제공하더라도 모델이 해결책을 제시하지 못합니다. 이는 새로운 환경에 적응하고 규칙을 적용하는 모델의 능력에 심각한 한계가 있음을 보여줍니다.

"일반 이론"의 과제

인공지능의 진정한 능력에 대해 회의적인 목소리를 내는 미국 학자 게리 마커스는 이 연구 결과에 대해 애플의 조사 결과가 "매우 충격적"이라고 평가했습니다.

그는 자신의 서브스택 뉴스레터에서 "대규모 언어 모델(LLM)이 인공 일반 지능(AGI)으로 가는 지름길이라고 생각하는 사람은 스스로를 속이고 있는 것이다"라고 말했다.

영국 서리대학교 인간중심 AI 연구소의 전문가인 앤드류 로고이스키는 이러한 견해에 동의하며, 이번 연구 결과가 기술 산업이 "막다른 길"로 향하고 있을 가능성을 시사한다고 믿는다. "모델이 단순하거나 중간 난이도의 문제에서는 좋은 성능을 보이지만, 난이도가 높아질수록 완전히 실패한다면, 현재의 접근 방식에 문제가 있다는 것이 분명합니다."

애플이 특히 강조한 점은 "일반적인 추론 능력", 즉 특정 상황에서 얻은 이해를 유사한 상황으로 확장하는 능력이 부족하다는 것입니다.

인간이 일반적으로 지식을 전달하는 방식대로 지식이 전달될 수 없을 때, 현재의 모델은 쉽게 "암기식 학습"이라는 함정에 빠지게 됩니다. 즉, 반복적인 패턴에는 강하지만 논리적 사고나 추론에는 취약해집니다.

또한, 연구에 따르면 대규모 추론 모델은 간단한 문제에 대해서는 올바른 단계를 반복적으로 수행하지만, 조금 더 복잡한 문제에 대해서는 처음부터 잘못된 접근 방식을 선택하여 계산 자원을 낭비하는 것으로 나타났습니다.

해당 보고서는 OpenAI의 o3, Google의 Gemini Thinking, Claude 3.7 Sonnet-Thinking, DeepSeek-R1 등 다양한 주요 모델을 테스트했습니다. Anthropic, Google, DeepSeek은 아직 답변을 내놓지 않았으며, OpenAI는 논평을 거부했습니다.

애플의 연구는 언어, 이미지, 빅데이터 분야에서 인공지능이 이룬 성과를 부정하는 것은 아닙니다. 하지만 진정한 지능을 구현하는 데 핵심적인 요소인 '진정한 추론 능력'이라는, 간과되고 있는 사각지대를 지적합니다.

출처: https://baovanhoa.vn/nhip-song-so/ai-suy-luan-kem-dan-khi-gap-bai-toan-phuc-tap-141602.html