오픈AI 논란의 중심에 선 '초지능' 모델

[광고_1]

Tech.co 의 소식통에 따르면, CEO 샘 알트만의 해임과 이후 오픈AI 복귀를 둘러싼 논란이 한창일 때, 회사 연구원들이 이사회에 보낸 서한에 대한 소문이 돌았는데, 그 서한에서 연구원들은 개발 중인 AI 초지능 모델이 인류에게 잠재적인 위협이 될 수 있다는 우려를 표명했다고 합니다.

프로젝트 Q*

내부적으로 '프로젝트 Q*'(큐스타로 발음)로 알려진 이 모델은 누적 학습이 가능하고 대부분의 작업에서 인간을 능가할 수 있는 고도로 자율적인 초지능인 일반 인공지능(AGI)을 추구하는 OpenAI의 목표에 있어 중대한 돌파구를 마련할 가능성이 있는 것으로 평가받고 있습니다.

사정에 정통한 소식통에 따르면, Q*는 인공지능 추론 능력을 획기적으로 향상시켜 인공지능 분야에 큰 도약을 가져올 수 있으며, OpenAI가 일반 인공지능 개발에 있어 중대한 돌파구를 마련하는 데 한 걸음 더 다가설 수 있도록 할 것이라고 합니다.

기존 AI 모델들이 사전 학습된 정보를 바탕으로 반응을 생성하는 데 초점을 맞추는 것과 달리, AGI는 의사결정에 "이성"을 적용할 수 있는 자율 시스템으로, 인간 수준으로 문제를 해결할 수 있는 능력을 갖추고 있습니다.

인공 일반 지능(AGI)이 아직 완전히 구현된 것은 아니지만, 많은 전문가들은 이 기술이 인간의 능력 향상을 가능하게 하는 또 다른 특징인 누적 학습의 잠재력을 지닐 것이라고 믿습니다.

일부 자료에 따르면 OpenAI 프로젝트인 Q*가 문제 해결 과정에서 앞서 언급한 특성들을 입증해 보였다고 합니다. 더욱이, Q*는 막대한 연산 능력 덕분에 초등학생들을 능가하는 성능을 보여주며, 현재의 AI 기술보다 훨씬 뛰어난 추론 능력과 인지 능력을 드러냈습니다.

Q* 프로젝트가 얼마나 오랫동안 개발되어 왔는지, 그리고 잠재적인 응용 분야가 무엇인지는 불분명하지만, OpenAI는 인사 논란이 발생하기 전에 직원과 이사회 구성원들에게 해당 프로젝트에 대해 알렸습니다.

윤리적 문제

오픈AI의 CEO인 샘 알트만은 인공 일반 지능(AGI) 기술이 혁신을 주도할 것이라고 확신하지만, 일부 연구자들은 이 프로젝트의 잠재적 위험성을 재빨리 지적하고 있다.

연구진은 이사회에 보낸 서한에서 이 강력한 알고리즘이 인류에게 미칠 수 있는 잠재적 위험에 대해 경고했습니다. 서한에 구체적으로 언급된 인공지능 관련 윤리적 우려 사항은 공개되지 않았지만, 이러한 경고는 이사회가 알트만을 해고하기로 결정한 이유가 되기에 충분했습니다.

한편, 알트먼의 해임 사유로 처음 제시된 것은 그의 "소통 능력이 부족하다"는 것이었습니다. 그 직후 그는 마이크로소프트로 자리를 옮겼습니다. 이에 오픈AI 직원 770명 중 700명이 알트먼이 복직되지 않으면 자신도 회사를 떠나겠다고 위협했습니다.

회사가 붕괴 직전에 이르자 오픈AI 이사회는 알트만을 최고 경영자 자리에 재임명할 수밖에 없었고, 이는 회사 경영진의 대대적인 개편으로 이어졌으며 경영진 내부의 깊은 분열을 드러냈습니다.

알트만이 다시 책임자 자리에 복귀하고 프로젝트 Q*가 다시 승인을 받을 가능성이 높아짐에 따라 새로운 의문점들이 제기되고 있습니다.

프로젝트 Q*는 얼마나 현실적인가요?

오픈AI의 격동적인 시기가 인공 일반 지능(AGI)이라는 개념을 주목받게 했지만, 알트만이 이 기술을 언급한 것은 이번이 처음은 아닙니다.

지난 9월, 실리콘 밸리의 한 기업가는 인공 일반 지능(AGI)을 "직원으로 고용할 수 있는 평범한 사람"에 비유해 논란에 휩싸였습니다. 그는 작년에 했던 발언을 되풀이하며 이 AI가 "원격 근무하는 직원과 함께 할 수 있는 모든 일을 할 수 있다"고 주장했는데, 여기에는 의사가 되는 법이나 훌륭한 프로그래머가 되는 법도 포함된다는 내용이었습니다.

인공 일반 지능(AGI)을 "평균적인 인간"의 지능과 비교하는 것은 새로운 일이 아니지만, 알트만이 이 표현을 사용한 것은 AI 윤리학자들과 케임브리지 대학교의 헨리 셰블린 교수로부터 "역겹다"는 비난을 받았습니다. AI가 고용 안정에 미치는 영향에 대한 우려가 커지고 있는 가운데 나온 발언입니다.

인공 일반 지능(AGI) 분야의 잠재적인 혁신은 다른 연구자들에게 경종을 울리고 있습니다. 즉, 기술이 사람들이 그 영향을 완전히 이해하기보다 훨씬 빠르게 발전하고 있다는 것입니다.

OpenAI는 인공 일반 지능(AGI)의 긍정적인 결과가 이러한 위험천만한 "지뢰밭"을 시도해 볼 가치가 있다고 믿습니다. 그러나 회사가 이 방향으로 계속 나아가면서, 많은 사람들은 알트만이 사용자와 사회 전체의 이익보다 상업적 성공을 우선시하고 있다고 우려하고 있습니다.

Phuong Anh (출처: Tech.co, The Guardian)

[광고_2]
원천