Sam Altman은 OpenAI의 안전 위원회를 떠나 독립 그룹에 맡겼습니다.

OpenAI 공식 블로그에 따르면, 안전보안위원회는 이사회 산하의 독립적인 감독 기관으로 전환됩니다. 카네기 멜론 대학교 지코 콜터 교수가 위원장을 맡고, Quora CEO 아담 당젤로, 미 육군 예비역 장군 폴 나카소네, 소니 전 부사장 니콜 셀리그먼 등이 위원회를 이끌게 됩니다. 이 위원들은 모두 현재 OpenAI 이사회 소속입니다.

알트먼의 사임 이후, 위원회는 회사의 최신 AI 모델인 o1에 대한 안전 검토를 완료했습니다. 위원회는 OpenAI의 안전 및 보안 팀으로부터 브리핑을 계속 받을 예정이며, 안전 문제가 해결되지 않을 경우 공개를 연기할 권리를 보유합니다.

OpenAI에 따르면, 위원회는 현재 및 미래 모델에 대한 기술 감독과 출시 후 모니터링을 제공하는 데 중요한 역할을 유지할 것입니다. OpenAI는 모든 AI 모델이 안전하게 출시되도록 명확한 평가 기준을 갖춘 자체 안전 프로세스를 구축하는 데 전념하고 있습니다.

알트만의 위원회 사임 결정은 미국 상원의원 5명이 OpenAI에 안전 정책을 명확히 해달라고 요청하는 서한을 보낸 후 나온 것입니다. AI의 장기적인 위험 연구에 집중했던 OpenAI 직원의 거의 절반이 최근 몇 년 동안 회사를 떠났습니다. OpenAI의 전직 연구원들은 알트만이 강력한 AI 규제를 옹호하기보다는 회사의 상업적 목표를 증진하는 정책을 선호한다고 비판했습니다.

이미지 출처: Justin Sullivan / Getty Images

또한, OpenAI는 미국 의회 로비 지출을 크게 늘렸습니다. 2023년 전체 예산은 26만 달러였지만, 2024년 상반기에는 80만 달러를 책정했습니다. 알트만은 또한 미국 국토안보부 인공지능 안전보안위원회에 합류하여 국가 주요 인프라 전반에 걸쳐 AI 관련 권고안을 작성하는 데 기여했습니다.

알트만은 보안 및 개인정보보호 위원회를 떠났지만, 위원회가 OpenAI의 상업적 발전을 심각하게 저해할 수 있는 결정을 내릴 조짐은 거의 없어 보입니다. OpenAI는 지난 5월, 위원회를 통해 자사 연구에 대한 "타당한 비판"을 해소할 것이라고 밝혔지만, "타당한 비판"은 대체로 주관적인 것입니다.

5월 The Economist에 실린 사설에서, OpenAI의 전 이사회 멤버인 헬렌 토너와 타샤 맥콜리는 회사의 자치 능력에 대한 우려를 표명하며, OpenAI가 현재 이윤 추구의 압박에 스스로 책임을 질 수 없다고 주장했습니다.

수익은 OpenAI에게 점점 더 중요한 원동력이 되고 있습니다. OpenAI는 기업 가치가 1,500억 달러 이상으로 평가되는 새로운 투자 라운드에서 65억 달러를 유치하는 과정에 있습니다. 투자자를 유치하기 위해 OpenAI는 인류의 공동선을 위한 AI 개발이라는 목표를 달성하기 위해 투자자 수익을 제한하도록 설계된 하이브리드 비영리 구조를 폐기하는 방안을 고려할 수도 있습니다.

Hung Nguyen (TechCrunch에 따르면)

출처: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html