Anthropic의 다리오 아모데이, Google의 데미스 하사비스, OpenAI의 샘 알트만과 같은 오늘날 최고의 기술 CEO들에게는 단순히 자신들의 AI가 최고라고 말하는 것만으로는 충분하지 않습니다. 세 사람 모두 최근 AI가 매우 뛰어나 사회 구조를 근본적으로 바꿀 것이라고 공개적으로 발언했습니다.
그러나 현대 AI를 구축하고 연구하고 사용하는 연구자 집단 중 일부는 이러한 주장에 회의적인 입장을 보이고 있습니다.
AI 추론은 전능하지 않습니다
인공지능은 도입된 지 불과 3년 만에 공부와 업무 등 일상생활의 여러 영역에 스며들기 시작했습니다. 많은 사람들은 인공지능이 곧 인간을 대체할 수 있을지 우려합니다.
하지만 오늘날의 새로운 AI 모델은 사실 우리가 생각하는 것만큼 똑똑하지 않습니다. 세계 최대 기술 기업 중 하나인 애플의 발견이 이를 증명합니다.
구체적으로, "환상적 사고"라는 제목의 최근 연구에서 Apple의 연구팀은 Claude, DeepSeek-R1, o3-mini와 같은 추론 모델이 이름에서 암시하는 것처럼 실제로 "두뇌 중심"이 아니라고 주장합니다.
Apple의 논문은 Salesforce를 포함한 학계와 다른 주요 기술 회사의 주목할 만한 연구뿐만 아니라, 많은 유사한 엔지니어의 이전 연구를 바탕으로 작성되었습니다.
이러한 실험은 자율 AI 에이전트, 그리고 궁극적으로는 초지능을 향한 다음 단계로 환영받고 있는 추론 AI가 어떤 경우에는 기존의 기본 AI 챗봇보다 문제 해결 능력이 떨어진다는 것을 보여줍니다.
 |
대규모 추론 모델에 대한 Apple의 새로운 연구에 따르면 AI 모델은 생각만큼 "뇌 집약적"이지 않습니다. 사진: OpenAI. |
또한 이 연구에서는 AI 챗봇을 사용하든 추론 모델을 사용하든 모든 시스템이 더 복잡한 작업에서는 완전히 실패했습니다.
연구진은 추론이라는 단어를 "모방"으로 바꿔야 한다고 제안합니다. 연구팀은 이러한 모델들이 패턴을 기억하고 반복하는 데는 효율적일 뿐이라고 주장합니다. 하지만 질문이 바뀌거나 복잡성이 증가하면 모델들은 거의 무너질 뻔합니다.
간단히 말해, 챗봇은 패턴을 인식하고 매칭할 수 있을 때는 잘 작동하지만, 작업이 너무 복잡해지면 더 이상 감당할 수 없습니다. "최첨단 대규모 추론 모델(LRM)은 복잡성이 특정 임계값을 초과하면 정확도가 완전히 저하됩니다."라고 연구는 지적합니다.
이는 개발자가 리소스가 증가하면 복잡성이 개선될 것이라는 기대에 어긋납니다. "AI 추론 노력은 복잡성에 따라 증가하지만, 일정 수준까지만 증가하고, 그 이후에는 이를 처리할 충분한 토큰 예산(연산 능력)이 있더라도 감소합니다."라고 보고서는 덧붙였습니다.
AI의 진정한 미래
미국의 심리학자이자 작가인 게리 마커스는 애플의 연구 결과가 인상적이기는 하지만, 완전히 새로운 것은 아니며 기존 연구를 강화했을 뿐이라고 말했습니다. 뉴욕대학교 심리학 및 신경과학 명예교수는 1998년 자신의 연구를 예로 들었습니다.
이 글에서 그는 대규모 언어 모델의 선구자인 신경망이 훈련된 데이터 분포 내에서는 일반화를 잘 할 수 있지만, 분포 범위를 벗어난 데이터에 직면하면 종종 제대로 작동하지 않는다고 주장합니다.
그러나 마커스 씨는 LLM 모델과 LRM 모델 모두 자체적인 적용이 가능하며 어떤 경우에는 유용하다고 믿습니다.
기술계에서는 초지능이 AI 개발의 다음 단계로 여겨집니다. 초지능 시스템은 인간처럼 생각하는 능력(AGI)을 갖출 뿐만 아니라 속도, 정확도, 인식 수준 등에서도 탁월한 성과를 보입니다.
주요 한계에도 불구하고 AI 비평가들조차도 컴퓨터 초지능으로의 여정이 여전히 충분히 가능하다고 덧붙인다.
 |
OpenAI CEO 샘 알트먼은 AI가 구글이나 숙제 도우미의 대안을 넘어 인류의 진보를 바꿀 것이라고 말한 적이 있습니다. 사진: AA Photo. |
러트거스 연구소의 공학과 조교수인 호르헤 오르티스는 현재의 한계를 드러내는 것이 AI 회사가 이를 극복할 수 있는 길을 제시할 수 있다고 말했습니다.
오르티즈는 모델의 성능에 대한 점진적 피드백을 제공하고, 어려운 문제에 직면했을 때 더 많은 리소스를 추가하는 것과 같은 새로운 교육 방법의 예를 인용했는데, 이는 AI가 더 큰 문제를 해결하고 기반 소프트웨어를 더 잘 활용하는 데 도움이 될 수 있습니다.
벤처 캐피털 회사인 럭스 캐피털의 공동 창립자인 조쉬 울프는 사업적 관점에서 볼 때 현재 시스템이 추론 능력을 갖추고 있든 없든 여전히 사용자에게 가치를 창출할 것이라고 말했습니다.
펜실베이니아 대학의 이선 몰릭 교수 역시 AI 모델이 가까운 미래에 이러한 한계를 극복할 것이라고 믿는다고 밝혔습니다.
몰릭은 "모델은 점점 더 좋아지고 있으며 AI에 대한 새로운 접근 방식이 끊임없이 개발되고 있으므로 가까운 미래에 이러한 한계가 극복될 가능성도 있습니다."라고 말했습니다.
출처: https://znews.vn/vi-sao-ai-chua-the-vuot-qua-tri-tue-con-nguoi-post1561163.html
댓글 (0)