OpenAIの新モデルは生物兵器開発のリスクを高める

このモデルは推論し、複雑な数学的問題を解決し、科学研究の疑問に答えることができ、これは人間のような認知能力を持つ機械である汎用人工知能（AGI）の開発に向けた重要な前進であると考えられている。

OpenAIは、O1モデルの高度な機能を考慮すると、どのように一般公開するかについては特に「慎重」であると述べた。写真​​：ゲッティイメージズ

フィナンシャル・タイムズによると、OpenAIはこれらの新モデルのリスクを、化学兵器、生物兵器、放射線兵器、核兵器（CBRN）に関連する問題に関して「中程度」と評価した。これは同社がこれまで評価した中で最も高い評価である。これは、この技術によって専門家の生物兵器製造能力が「大幅に向上」したことを意味する。

専門家によると、詳細な推論が可能な AI ソフトウェアは、特に悪意のある人物の手に渡ると、悪用されるリスクが高まる可能性がある。

モントリオール大学の世界的AI科学者であるヨシュア・ベンジオ教授は、この中程度のリスクレベルは、現在カリフォルニア州で審議中のSB1047のようなAI規制の緊急性を高めると強調しています。この法案は、AIメーカーに対し、自社のモデルが生物兵器開発に悪用されるリスクを軽減するための対策を講じることを義務付けています。

The Vergeによると、Google、Meta、Anthropicなどのテクノロジー企業が高度なAIシステムの構築と改善に競い合う中、AIモデルのセキュリティと安全性が大きな懸念事項となっている。

これらのシステムは、人間がタスクを完了するのを助け、さまざまな分野で支援を提供する上で大きなメリットをもたらす可能性がありますが、安全性と社会的責任の課題ももたらします。

カオ・フォン（FT、ロイター、The Vergeによる）

出典: https://www.congluan.vn/openai-thau-nhan-mo-hinh-ai-moi-co-the-duoc-su-dung-de-tao-ra-vu-khi-biological-hoc-post312337.html