人工知能の安全基準の探求

[広告_1]

SGGP 2023年7月31日 9時35分

欧州が人工知能（AI）に関する世界初の法律の起草を開始し、すぐに施行された後、米国のインターネットデータマイニングの大手4社はフロンティアモデルフォーラムと呼ばれる団体を立ち上げたばかりだ。

フロンティアモデルフォーラムの中心的な目標は、責任あるAIの推進です。写真：THINKWITHNICHE

当事者たちが集まる

アントロピック、グーグル、マイクロソフト、そしてChatGPTのオーナーであるOpenAIを含むこのグループは、フロンティアモデルフォーラムの中核目標はAIプラットフォームがもたらすリスクの軽減と業界標準の策定であると述べています。フロンティアモデルフォーラムは、以下の主要目標を掲げる新たなフォーラムを設立します。AIの安全性研究を促進し、開発を支援し、リスクを軽減し、安全性の評価とレベルを標準化すること。モデルの開発と展開に関するベストプラクティスを特定し、一般の人々がテクノロジーの性質、能力、限界、そして影響を理解できるようにすること。そして、政策立案者、学者、市民社会、企業と協力し、リスクと安全性に関する知識を共有することです。

テクノロジー大手は伝統的に規制強化に抵抗してきたが、今回はAIがもたらすリスクに対する姿勢を大きく転換した。フロンティア・モデル・フォーラムの取り組みに参加している企業は、企業間でベストプラクティスを共有し、政府や市民社会に情報を公開することを約束している。

具体的には、フロンティアモデルフォーラムは、AIを新たなレベルの高度化へと導く大規模かつ初期段階の機械学習プラットフォームに焦点を当てます。これは潜在的なリスク要因でもあります。さらに、フロンティアモデルフォーラムは、気候変動の緩和と適応、がんの早期発見と予防、サイバー脅威からの防御といった主要な社会課題に対処するアプリケーションの開発も支援します。

破壊の可能性がある余地

米国企業によるフロンティア・モデル・フォーラムの発表は、7月25日に米国上院議員が上院司法委員会の小委員会公聴会でAIがバイオ攻撃に利用される危険性について警告を発してから数日後に行われた。最近、OpenAI、Alphabet、Metaを含む大手テクノロジー企業7社が、ホワイトハウスに対し、AIによって作成されたテキスト、画像、音声、動画などすべてのコンテンツにラベルを付けるシステムを開発することを自主的に約束した。このシステムは、ユーザーに情報の透明性を提供し、AI技術の安全性を確保することを目的としている。

AIはまだ生物兵器の製造能力はないものの、今後2～3年で米国の国家安全保障に深刻な脅威をもたらす可能性のある「中期的」リスクだと、AIアントロピックのCEO、ダリオ・アモデイ氏は指摘する。大規模な生物兵器攻撃を実行する主体が、もはやその分野の専門知識を持つ者に限られなくなっているからだ。

世界は、生成型AI技術によって生み出されるコンテンツの爆発的な増加に直面しています。米国から欧州、そしてアジアに至るまで、規制は徐々に強化されています。CNNによると、米国上院は9月から、AIが雇用、国家安全保障、知的財産にどのような影響を与えるかについて議員が学ぶためのワークショップを9回追加開催する予定です。合意に至れば、米国に先駆けて欧州連合（EU）が来年、世界初のAI管理法を制定し、2026年の施行が見込まれています。

AIが社会にもたらす恩恵は否定できないものの、この新技術の潜在的なリスクに対する警告も高まっています。6月、国連事務総長アントニオ・グテーレスは、国際原子力機関（IAEA）に類似した国際的なAI監視機関を設立するという、複数のAI企業幹部による提案を支持しました。

フロンティアモデルフォーラムで、マイクロソフト社長のブラッド・スミス氏は、この取り組みはテクノロジー企業を結集し、全人類の利益のためにAIの責任ある利用を促進するための重要な一歩であると述べました。同様に、OpenAIのグローバルアフェアーズ担当副社長アンナ・マカンジュ氏は、高度なAI技術は社会に計り知れない利益をもたらす可能性があり、そのためには監督とガバナンスが必要だと述べました。

[広告2]
ソース