OpenAI 스캔들의 배후에 있는 '초지능' 모델

[광고_1]

Tech.co 소식통에 따르면, 샘 알트먼 CEO가 해고된 후 OpenAI로 복귀한다는 논란이 일고 있는 가운데, 해당 회사 연구원들이 이사회에 보낸 편지에 대한 소문이 돌았습니다. 편지에는 인류에게 잠재적으로 위협이 될 수 있는 AI 초지능 모델에 대한 우려를 표명했습니다.

프로젝트 Q*

OpenAI 내부에서 프로젝트 Q*(발음은 Q-스타)로 알려진 이 모델은 인공 일반 지능(AGI)을 추구하는 OpenAI의 노력에 있어 중요한 돌파구를 나타낸다고 합니다. 인공 일반 지능은 누적 학습이 가능하고 대부분 작업에서 인간보다 우수한 성과를 낼 수 있는 고도로 자율적인 초지능 분야입니다.

이 문제에 정통한 소식통에 따르면, Q*는 AI의 추론 능력을 근본적으로 개선하고 OpenAI를 AGI 개발의 주요 혁신에 한 걸음 더 가까이 다가가게 함으로써 인공지능 분야에서 큰 도약을 이룰 수 있다고 합니다.

기존 AI 모델이 이전에 학습한 정보를 기반으로 응답을 생성하는 능력에 초점을 맞춘 것과 달리, AGI는 의사결정에 '이성'을 적용할 수 있는 자율 시스템으로, 인간 수준의 문제 해결 역량을 제공합니다.

AGI가 아직 완전히 실현되지는 않았지만, 많은 전문가들은 이 기술이 누적적으로 학습하는 능력을 갖게 될 것이라고 믿고 있는데, 이는 인간이 자신의 능력을 향상시킬 수 있는 또 다른 특성입니다.

일부 소식통에서는 Q*(OpenAI 프로젝트)가 문제를 해결할 때 위의 속성을 입증할 수 있었다고 주장합니다. 그뿐 아니라, 이 모델의 엄청난 계산 능력 덕분에 Q*는 초등학교 학생들보다 더 나은 성적을 거두었으며, 현재 AI 기술의 수준을 훨씬 뛰어넘는 추론 능력과 인지 능력을 보여주었습니다.

Q*가 개발된 지 얼마나 되었는지, 그리고 어떤 분야에 적용될지는 불확실하지만, OpenAI는 인사 스캔들이 터지기 전에 직원과 이사회 구성원들에게 이 프로젝트에 대해 알렸습니다.

윤리적 문제

OpenAI의 CEO인 샘 알트먼은 AGI 기술이 혁신을 주도할 것이라고 확신하지만, 일부 연구자들은 이 프로젝트의 잠재적 위험을 지적하고 있습니다.

연구진은 이사회에 보낸 편지에서 이 강력한 알고리즘이 인간에게 미칠 수 있는 잠재적 위험을 경고했습니다. 해당 서한에 명시된 구체적인 AI 윤리 문제는 공개되지 않았지만, 경고 내용만으로도 이사회가 알트먼을 해고하기로 결정하기에 충분했습니다.

한편, 알트먼을 해고한 당초 이유는 CEO의 "소통이 부족했다"는 것이었다. 얼마 지나지 않아 그는 마이크로소프트에서 새로운 직장을 찾았습니다. 이러한 움직임으로 인해 OpenAI의 직원 770명 중 700명이 CEO가 복직되지 않으면 똑같은 짓을 하겠다고 위협했습니다.

회사가 붕괴 위기에 처하자 OpenAI의 이사회는 알트만을 다시 최고위직에 복귀시켜야 했습니다. 이로 인해 회사 경영진이 대대적으로 개편되었고, 리더십 내부의 깊은 분열이 드러났습니다.

이제 알트만이 복귀하고 프로젝트 Q*가 다시 승인을 받을 가능성이 높아지면서 새로운 의문이 제기되고 있습니다.

프로젝트 Q*는 얼마나 현실적입니까?

OpenAI에서 격동의 시기를 보내면서 AGI라는 개념이 주목을 받게 되었지만, 알트만이 이 기술을 언급한 것은 처음이 아닙니다.

9월, 실리콘 밸리의 한 기업가는 AGI를 "동료로 고용할 만한 평범한 인간"과 비교한 뒤 큰 곤경에 처했습니다. 그는 작년에 이 AI가 "원격 동료와 함께 할 수 있는 모든 일"을 할 수 있다고 했던 발언을 확인했습니다. 여기에는 훌륭한 의사와 프로그래머가 되는 법을 배우는 것도 포함됩니다.

AGI를 "평균적인 인간"의 지능에 비교하는 것은 새로운 일이 아니지만, AI 윤리학자이자 케임브리지 대학교 교수인 헨리 셰블린은 AI가 직업 안정에 미치는 영향에 대한 우려가 커지면서 알트만이 이 표현을 사용한 것을 "혐오스러운" 것으로 여겼습니다.

AGI 분야의 잠재적 혁신은 다른 연구자들에게도 경각심을 불러일으키고 있습니다. 이 기술은 인간이 그 영향을 완전히 이해할 수 있는 속도보다 더 빠르게 개발되고 있기 때문입니다.

OpenAI는 AGI의 긍정적인 결과로 인해 위험한 "지뢰밭"도 시도해 볼 만한 가치가 있다고 믿습니다. 그러나 회사가 이러한 방향으로 계속 전진함에 따라 많은 사람은 알트만이 사용자와 사회의 이익보다 상업적 성공을 우선시하고 있다는 우려를 표명했습니다.

Phuong Anh (출처: Tech.co, The Guardian)

[광고_2]
원천