スマートフォンに表示された画面は、OpenAIのGPT-o1について学ぶためのインターフェースです。写真：フィナンシャル・タイムズ
9月13日付のフィナンシャル・タイムズ紙によると、OpenAIは、9月12日に発表したGPT-o1モデルが、人工知能（AI）が生物兵器の製造に悪用されるリスクを「著しく」高めることを認めた。
OpenAIがGPT-o1の動作原理を説明するドキュメントによると、この新しいモデルは化学兵器、生物兵器、放射性兵器、核兵器に関連する問題に関して「中程度のリスクレベル」に分類されている。これはOpenAIがこれまで自社のAIモデルに割り当てた中で最も高いリスクレベルである。
OpenAIによると、これはGPT-o1が、悪用を目的とした生物兵器を製造する専門家の能力を「大幅に向上させる」可能性があることを意味する。
OpenAIの最高技術責任者（CTO）であるミラ・ムラティ氏は、GPT-o1はまだテスト段階にあるものの、このモデルの高度な機能ゆえに、一般公開に向けたロードマップについては極めて「慎重」にならざるを得ないと述べた。
ムラティ氏はまた、このモデルは多分野の専門家チームによって徹底的にテストされたと主張した。これらの専門家は、OpenAIが開発したモデルの限界を検証するために雇用された。
ムラティ氏によると、試験の結果、GPT-o1モデルは従来モデルよりもはるかに優れた安全基準を満たしていることが分かったという。
さらに、OpenAIの担当者は、GPT-o1の試用版は「安全に導入できる」ものであり、既に開発済みの技術よりも複雑なリスクを生み出すことはないと断言した。
こうした保証にもかかわらず、 科学界やAI愛好家の大部分は、この技術の将来について依然として概ね悲観的である。
AIの発展が速すぎて、それを規制する法律の策定や承認のスピードを上回ってしまうのではないかという懸念が高まっている。
モントリオール大学のコンピュータ科学専門家であり、 世界有数のAI科学者の一人であるヨシュア・ベンジオ教授は、OpenAIが現在、化学兵器や生物兵器に関して「中程度のリスク」をもたらしているとすれば、カリフォルニア州で激しい議論が交わされている法案のような、この分野を規制するための規制の重要性と緊急性を「改めて強調するものだ」と述べた。
この科学者は、人工知能が人間と同等の推論能力を持つ汎用人工知能（AGI）のレベルにますます近づいている状況において、これらの機関は特に必要不可欠であると強調した。
「先駆的なAIモデルが汎用人工知能（AGI）に近づくほど、適切な予防措置を講じなければリスクは増大する。AIの推論能力の向上と、それが不正行為に悪用される可能性は極めて危険だ」とベンジオ氏は評価した。
出典： https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm
コメント (0)