サム・アルトマンがOpenAIの安全委員会を去り、独立したグループに委ねる

OpenAIの公式ブログでの発表によると、安全・セキュリティ委員会は理事会傘下の独立した監督グループとなる。カーネギーメロン大学のジーコ・コルター教授が委員長を務め、QuoraのCEOアダム・ダンジェロ氏、退役米陸軍大将ポール・ナカソネ氏、ソニーの元副社長ニコール・セリグマン氏などが委員を務める。これらのメンバーはいずれも現在OpenAIの理事会メンバーである。

アルトマン氏の辞任を受け、委員会は同社の最新AIモデル「o1」の安全性審査を完了した。委員会は今後もOpenAIの安全・セキュリティチームから報告を受け、安全性に関する懸念が解消されない場合、リリースを延期する権利を留保する。

OpenAIによると、委員会は今後も、現在および将来のモデルの技術的監督とリリース後のモニタリングにおいて重要な役割を担っていくとのことです。同社は、すべてのAIモデルが安全にリリースされるよう、明確な評価基準を備えた組み込みの安全プロセスの構築に尽力しています。

アルトマン氏が委員会を離脱する決定は、5人の米国上院議員グループがOpenAIに対し、安全対策の明確化を求める書簡を送ったことを受けてのものだ。AIの長期的なリスクの研究に重点を置いていたOpenAIのスタッフのほぼ半数が、近年同社を去っている。元OpenAI研究者たちは、アルトマン氏が強力なAI規制を主張せず、むしろ同社の商業的目標を推進する政策を支持していると批判している。

画像クレジット: ジャスティン・サリバン / ゲッティイメージズ

さらに、OpenAIは米国議会へのロビー活動への支出を大幅に増加させました。同社は2023年通年の26万ドルに対し、2024年の最初の6か月間で80万ドルの予算を計上しました。アルトマン氏はまた、米国国土安全保障省の人工知能安全・セキュリティ委員会にも参加し、国の重要インフラ全体におけるAI関連の提言策定に貢献しました。

アルトマン氏はセキュリティ・プライバシー委員会を去ったものの、同委員会がOpenAIの商業的発展を深刻に阻害するような決定を下す兆候はほとんど見られない。5月、OpenAIは委員会を通じて自らの活動に対する「正当な批判」に対処するよう努めると表明したが、「正当な批判」は主観的な部分が大きい。

5月のエコノミスト誌の論説で、OpenAIの元取締役であるヘレン・トナー氏とターシャ・マッコーリー氏の2人は、OpenAIは現在、利益追求のプレッシャーの下で自ら責任を負えない状態にあるとして、同社の自己統治能力について懸念を表明した。

OpenAIにとって、利益はますます重要な原動力になりつつあります。同社は新たな資金調達ラウンドで65億ドルを調達し、企業価値は1500億ドルを超える見込みです。投資家誘致のため、OpenAIは、人類共通の利益のためにAIを開発するという目標を確実に達成するために、投資家へのリターンを制限するように設計されたハイブリッドな非営利組織構造の放棄を検討する可能性があります。

フン・グエン（TechCrunchによると）

出典: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html