세상은 아직 인간의 뇌만큼 똑똑한 AI를 개발할 준비가 되어 있지 않습니다.

OpenAI의 수석 연구원에 따르면, 세상은 아직 인공 일반 지능(AGI)에 준비되지 않았거나 인공 지능이 인간의 뇌만큼 똑똑한 단계에 도달하지 못했다고 합니다.

일반 인공지능은 위험한가?

수년 동안 연구자들은 인공 시스템이 인간처럼 광범위한 작업을 처리할 수 있는 인공 범용 지능(AGI)의 출현에 대해 추측해 왔습니다. 많은 사람들은 AGI의 출현을 실존적 위험으로 간주하는데, 이는 컴퓨터가 인간이 상상할 수 없는 방식으로 작동할 수 있기 때문입니다.

마일즈 브린다지 씨에 따르면, 세상은 아직 인공 일반 지능(AGI)의 시대에 대비하지 못했다고 합니다.

ChatGPT 개발사 OpenAI가 AGI(Age-in-Global Intelligence)를 준비하도록 하는 임무를 맡은 사람은 세상도 회사 자체도 다음 단계에 "준비"되지 않았다고 인정합니다. 마일즈 브런디지는 OpenAI의 "AGI 준비 담당 수석 고문"을 역임했지만, 이번 주 OpenAI가 그룹을 해체하면서 사임을 발표했습니다.

"OpenAI를 비롯한 어떤 선구적인 연구소도 (AGI에) 준비가 되어 있지 않고, 세상 또한 마찬가지입니다. 분명히 말씀드리자면, 이 발언은 OpenAI 경영진 사이에서 논란의 여지가 있는 발언이 아니라, 회사와 세상이 적절한 시기에 준비를 갖추고 있는지에 대한 질문입니다."라고 6년간 회사의 AI 안전 이니셔티브 구축을 지원해 온 브런디지는 말했습니다.

브런디지의 사임은 OpenAI 안전팀의 주목할 만한 일련의 이탈 중 가장 최근의 사례입니다. 저명한 연구원인 얀 라이케는 "안전 문화와 프로세스가 멋진 제품에 밀려 뒷전으로 밀려났다"는 발언을 한 후 사임했습니다. 공동 창립자인 일리아 수츠케버 또한 안전한 AGI 개발에 집중하는 AI 스타트업을 설립하기 위해 사임했습니다.

브런디지가 "AGI 준비" 그룹을 해체한 것은 회사가 장기적인 AI 위험을 완화하는 데 전념하는 "슈퍼얼라인먼트" 그룹을 해체한 지 몇 달 만에 이루어진 일로, OpenAI의 원래 사명과 상업적 야망 사이의 갈등이 드러났습니다.

이익 압박으로 인해 OpenAI는 안전한 길에서 벗어났습니다.

OpenAI는 2년 안에 비영리 기업에서 영리 기업으로 전환해야 한다는 압력에 직면해 있는 것으로 알려졌습니다. 그렇지 않으면 최근 66억 달러 규모의 투자 유치에 실패할 위험이 있습니다. 이러한 상용화 전환은 2019년 OpenAI가 영리 사업부를 처음 설립한 이후 브런디지에게 오랫동안 우려의 대상이 되어 왔습니다.

OpenAI의 CEO인 샘 알트먼은 회사가 수익을 창출해야 한다는 압박으로 인해 "두통"을 겪고 있습니다.

브런디지는 사임 이유를 설명하면서, 이 유명 기업에서 연구 및 출판의 자유에 대한 제약이 점차 커지고 있다는 점을 언급했습니다. 그는 AI 정책 논의에서 업계의 편견과 이해 상충으로부터 자유로운 독립적인 발언권의 필요성을 강조했습니다. OpenAI의 경영진에게 내부 준비에 대한 조언을 제공했던 그는 이제 조직 외부에서 글로벌 AI 거버넌스에 더 큰 영향을 미칠 수 있다고 생각합니다.

이러한 이탈은 OpenAI 내부의 더 깊은 문화적 분열을 반영하기도 합니다. 많은 연구자들이 AI 연구 발전에 참여하면서 이제는 점점 더 제품 중심적인 환경에 놓이게 되었습니다. 내부 자원 배분은 쟁점이 되었습니다. 보고서에 따르면 라이크의 팀은 해체되기 전 안전 연구에 필요한 컴퓨팅 파워를 제공받지 못했습니다.

OpenAI는 최근 몇 달 동안 인공지능 개발 계획과 안전성 확보에 대한 우려에 직면했습니다. 안전한 인공지능 구축 방법을 연구하는 비영리 단체로 설립되었지만, ChatGPT의 성공은 상당한 투자와 이 신기술을 수익 창출에 활용해야 한다는 압력을 불러왔습니다.

출처: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm