AI 전문가는 올해 초 자신이 창립한 회사 중 하나인 OpenAI를 떠나 Safe Superintelligence Inc.라는 자신의 AI 연구소를 설립했습니다.

수츠케버는 신경 정보 처리에 관한 컨퍼런스에서 "우리가 아는 사전 훈련은 더 이상 존재하지 않을 것"이라고 말했습니다.

"사전 학습"이란 용어는 AI 모델 개발의 초기 단계를 말하며, 대규모 언어 모델이 레이블이 지정되지 않은 대량의 데이터(대개 인터넷, 서적 및 기타 출처의 텍스트)로부터 패턴을 학습하는 단계를 말합니다.

데이터 리소스 고갈

수츠케버는 현재 데이터가 여전히 AI 개발을 가속화할 수 있다고 믿지만, 업계에서는 모델을 훈련할 새로운 리소스가 부족해지고 있다고 말했습니다.

그는 이것이 결국 오늘날 AI 모델의 훈련 방식을 바꾸는 계기가 될 것이라고 말했습니다.

8da2491217a6b424c37773100bec59ff.jpeg
AI 모델은 제한된 양의 데이터를 기반으로 스스로 학습하는 방법을 알아낼 것입니다. 사진: 야후 테크

이런 상황은 화석 자원의 경우에도 일어났고 지금도 일어나고 있습니다. 석유 자원이 한정된 자원인 경우나 인터넷에 인간이 만든 콘텐츠가 한정된 양만 있는 경우와 마찬가지입니다.

"우리는 데이터 활용의 정점에 도달했고, 앞으로도 그럴 수 없을 것입니다."라고 수츠케버는 말했다. "우리는 현재 이용 가능한 데이터, 즉 인터넷이라는 출처를 활용하여 작업해야 합니다."

Sutskever는 차세대 모델이 "진정한 에이전트와 유사"할 것이라고 예측합니다. "에이전트"는 AI 분야의 유행어로, 일반적으로 작업을 수행하고, 결정을 내리고, 소프트웨어와 독립적으로 상호 작용하는 자율적인 AI 시스템으로 이해됩니다.

그는 미래의 AI 시스템이 "에이전트와 유사"할 뿐만 아니라 추론 능력도 가질 것이라고 말했습니다. 모델이 이전에 학습한 내용을 기반으로 패턴을 인식하는 현재 AI와 달리, 미래의 AI 시스템은 사고에 더 가까운 방식으로 문제를 단계적으로 해결할 수 있을 것입니다. "추론 능력이 높아질수록 시스템의 예측 가능성은 낮아집니다."라고 수츠케버는 말했습니다.

AI는 스스로 훈련하는 방식을 스스로 만들어낼 수 있다

또한 전문가는 AI 시스템의 개발을 진화생물학에 비유하며, 동물의 뇌와 신체 크기 간의 관계를 보여주는 연구를 인용했습니다.

예를 들어, 대부분 포유류가 특정한 비율 패턴을 따르는 반면, 인간은 뇌와 신체 비율이 현저히 다릅니다.

그리고 어느 시점에서 진화가 우리 조상의 뇌 성장에 대한 새로운 속도를 찾아내면, AI도 확장할 수 있는 새로운 방법을 찾아 오늘날 모델을 훈련하는 방식을 능가할 수도 있습니다.

(TheVerge, Yahoo Tech에 따르면)

xAI와 OpenAI의 '엄청난' 연봉 공개 일론 머스크는 OpenAI가 직원들에게 과도한 급여를 지급하고 있으며, 이는 반경쟁적이라고 비난했습니다. 그러나 이 억만장자의 xAI 스타트업 역시 평균 연봉보다 훨씬 높은 연봉을 지급하고 있습니다.