OpenAI의 한 수석 연구원에 따르면, 세상은 아직 인공 일반 지능(AGI)을 받아들일 준비가 되어 있지 않습니다. AGI는 인공지능이 인간의 뇌만큼 똑똑한 순간을 의미합니다.
일반 인공지능은 위험한가?
수년 동안 연구자들은 인공 시스템이 인간처럼 광범위한 작업을 처리할 수 있는 인공 범용 지능(AGI)의 출현에 대해 추측해 왔습니다. 많은 사람들은 AGI의 출현을 실존적 위험으로 간주하는데, 이는 컴퓨터가 인간이 상상조차 할 수 없는 방식으로 행동할 수 있게 해 주기 때문입니다.
마일즈 브린다지 씨에 따르면, 세상은 아직 인공 일반 지능(AGI)의 시대에 대비되지 않았습니다.
ChatGPT 개발사 OpenAI가 AGI(Age-in-Global Intelligence)를 준비하도록 하는 임무를 맡은 사람은 세상도 회사 자체도 다음 단계에 "준비"되지 않았다고 인정합니다. 마일즈 브런디지는 "OpenAI의 AGI 준비 담당 수석 고문"이었지만, 이번 주 OpenAI가 그룹을 해체하면서 사임을 발표했습니다.
"OpenAI를 비롯한 어떤 선구적인 연구소도 [AGI]를 위한 준비가 되어 있지 않으며, 세상 또한 마찬가지입니다. 분명히 말씀드리자면, 이 발언은 OpenAI 경영진 사이에서 논란의 여지가 있는 발언이 아니라, 회사와 세상이 적절한 시기에 준비를 갖추고 있는지에 대한 질문입니다."라고 6년간 회사의 AI 안전 이니셔티브 구축을 지원해 온 브런디지는 말했습니다.
브런디지의 사임은 OpenAI 안전팀의 주요 인사들이 잇따라 이탈한 사례 중 가장 최근의 일입니다. 저명한 연구원인 얀 라이케는 "안전 문화와 프로세스가 멋진 제품에 밀려 뒷전으로 밀려났다"고 말한 후 사임했습니다. 공동 창업자인 일리아 수츠케버 또한 안전한 AGI 개발에 집중하는 AI 스타트업을 설립하기 위해 사임했습니다.
브런디지가 "AGI 준비" 그룹을 해체한 것은 회사가 장기적인 AI 위험을 완화하는 데 전념하는 "슈퍼얼라인먼트" 그룹을 해체한 지 몇 달 만에 이루어진 일로, OpenAI의 원래 사명과 회사의 상업적 야망 간의 갈등이 드러났습니다.
이익 압박으로 인해 OpenAI는 안전에서 멀어지다
OpenAI는 2년 안에 비영리 기업에서 영리 기업으로 전환해야 한다는 압력에 직면해 있다고 합니다. 그렇지 않으면 최근 66억 달러 규모의 투자 유치에 실패할 위험이 있습니다. 이러한 상용화 전환은 오랫동안 브런디지에게 우려의 대상이 되어 왔는데, 그는 OpenAI가 영리 사업부를 처음 설립한 2019년부터 이에 대한 우려를 표명해 왔습니다.
OpenAI의 CEO인 샘 알트먼은 회사가 수익을 창출해야 한다는 압박으로 인해 "두통"을 겪고 있습니다.
브런디지는 사임 이유를 설명하면서, 이 상징적인 기업에서 연구 및 출판의 자유에 대한 제약이 증가하고 있음을 언급했습니다. 그는 AI 정책 논의에서 업계의 편견과 이해 상충으로부터 자유로운 독립적인 목소리가 필요하다고 강조했습니다. OpenAI의 경영진에게 내부 준비에 대한 조언을 제공했던 그는 이제 조직 외부에서 글로벌 AI 거버넌스에 더 큰 영향을 미칠 수 있다고 생각합니다.
이러한 이탈은 OpenAI 내부의 더 깊은 문화적 분열을 반영하기도 합니다. 많은 연구자들이 AI 연구 발전에 참여하면서 이제는 점점 더 제품 중심적인 환경에 놓이게 되었습니다. 내부 자원 배분은 첨예한 쟁점이 되었습니다. 보고서에 따르면 라이크의 팀은 해체되기 전 안전 연구에 필요한 컴퓨팅 파워를 제공받지 못했습니다.
OpenAI는 최근 몇 달 동안 인공지능 개발 계획과 안전성 확보에 대한 의문에 직면했습니다. 안전한 인공지능 구축 방법을 연구하는 비영리 단체로 설립되었지만, ChatGPT의 성공은 막대한 투자와 이 신기술을 영리 목적으로 활용해야 한다는 압력을 불러왔습니다.
[광고_2]
출처: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm
댓글 (0)