OpenAI 공동 창립자가 슈퍼 AI에 대해 공개

오픈AI 공동창업자 안드레이 카파티(Andrej Karpathy). 사진: 드워케시 파텔(Dwarkesh Patel )

기술 업계의 많은 사람들이 인공 일반 지능(AGI)이 곧 현실이 될 것이라고 믿는 반면, 테슬라의 최고 AI 책임자이자 OpenAI의 공동 창립자인 저명한 과학자 안드레이 카르파티는 다른 견해를 가지고 있습니다. 그는 AGI로 가는 길은 아직 멀고, 세계가 근본적인 과제를 극복하려면 최소 10년은 더 걸릴 것이라고 생각합니다.

카르파티는 최근 대화에서 "문제는 해결 가능하지만, 지금은 어렵습니다. 현재의 모든 한계를 극복하는 데는 약 10년이 걸릴 것으로 생각합니다."라고 말했습니다.

귀중한 교훈

카르파티 씨에 따르면, 지난 몇 년간 대규모 언어 모델(LLM)의 급속한 발전으로 많은 사람들이 자율 기능을 갖춘 시스템인 "AI 에이전트"의 시대가 도래했다고 믿고 있습니다. 그러나 테슬라의 전 AI 책임자는 이러한 견해에 동의하지 않습니다. 그는 2025년이 "AI 에이전트의 해"가 아니라고 생각합니다.

그는 클로드와 코덱스 같은 도구가 많은 작업에서 인간을 도울 수 있는 잠재력을 보여주지만, 아직은 "디지털 동료"로 여겨지기에는 거리가 멀다고 설명합니다.

"현재 AI 에이전트는 충분히 똑똑하지 않고, 컴퓨터를 자연스럽게 사용하지도 않으며, 지속적으로 학습할 수 있는 능력도 없습니다. 무언가를 말해도 기억할 거라고 기대할 수 없습니다. 인지 능력이 부족해서 모델이 제대로 작동하지 못하는 것입니다."라고 카르파티는 말했습니다.

카르파티는 테슬라의 AI 책임자를 역임했습니다. 사진: 테슬라라티 .

15년간 AI 분야에서 경력을 쌓아 온 카르파티는 업계 전체를 바꾼 수많은 전환점을 목격했다고 말합니다. 그는 토론토 대학교에서 신경망의 아버지라 불리는 제프리 힌튼과 함께 연구하고 협력했는데, 당시 딥러닝은 아직 잘 알려지지 않은 연구 분야였습니다. 2012년 알렉스넷(AlexNet)의 성공은 AI의 새로운 시대를 열었고, 신경망은 미래 여러 응용 분야의 기반이 되었습니다.

딥러닝 열풍 이후, AI 산업은 점차 주변 환경을 관찰하고, 행동하고, 학습할 수 있는 에이전트를 개발하는 방향으로 전환했습니다. 초기 실험 중 하나는 2013년경 아타리 게임에 적용된 심층 강화 학습이었습니다. 당시에는 획기적인 것으로 여겨졌지만, 그는 이러한 방향이 "타이밍의 실수"였다고 생각합니다.

"사람들이 시뮬레이션과 측정이 쉬운 게임 환경에서 실험하고 싶어 하는 것은 이해할 만합니다. 하지만 현실 세계를 반영하지는 않습니다. AI가 키보드를 두드리고 마우스를 클릭한 후 보상을 기다리게 한다면, 의미 있는 학습을 할 수 없을 것입니다."라고 그는 말했습니다.

적절한 시간이 아니다

OpenAI에서 카르파티는 마우스와 키보드로 제어되어 실제 작업을 수행할 수 있는 에이전트를 개발하는 프로젝트 유니버스(Project Universe)를 진행했습니다. 하지만 그는 이 프로젝트가 "너무 이르다"는 점을 인정했습니다.

카르파티는 "우리는 아직 신경망 수준의 능력을 갖추지 못했고, 오늘날처럼 대규모 언어 모델링 플랫폼도 갖추고 있지 않습니다."라고 말했습니다.

카르파티는 AGI를 개발하는 데 10년이 걸릴 것으로 생각합니다. 사진: 비디아 .

과학자는 진정으로 지능적인 에이전트를 개발하려면 모델이 언어 표현과 인지에 대한 탄탄한 기반을 갖춰야 한다고 덧붙였습니다. 카르파티는 인터넷 데이터를 기반으로 사전 학습하는 과정을 일종의 "나쁜 진화"에 비유했습니다. 그러나 이 과정은 AI가 막대한 양의 지식과 기본적인 추론 능력을 축적하는 데 도움이 됩니다.

하지만 그는 기존 지식에 지나치게 의존하면 AI의 창의성이 떨어질 수 있다고 경고합니다. 카르파티는 "아마도 우리는 지식의 일부를 제거하고, 사고하고, 문제를 해결하고, 전략을 수립하는 능력을 나타내는 인지 핵심 부분, 즉 '인지적 핵심'을 남겨두는 방법을 찾아야 할 것입니다."라고 말했습니다.

따라서 AI는 전환기에 접어들고 있습니다. 언어 모델의 힘과 에이전트의 행동 능력의 결합은 기술의 새로운 장을 열 것입니다. 그러나 카르파티에 따르면, 그러한 전환은 단 몇 년 만에 이루어질 수 없습니다.

출처: https://znews.vn/dong-sang-lap-openai-agi-van-con-cach-xa-mot-thap-ky-post1595617.html