Meta社は、開発者が生成された人工知能（AI）モデルをデプロイする前に、その信頼性と安全性を評価・向上させるためのオープンソースツールを作成することに特化したプロジェクト「Purple Llama」を発表しました。
Metaは、AIの安全性を確保するためには協力的な取り組みが必要であると強調するとともに、AIに関する課題は単独では解決できないとも述べた。
同社は、大規模言語モデルやその他のAI技術に対する懸念が高まる中、より安全な生成型AIを開発するための共通プラットフォームを確立することが、パープルラマの目標であると述べた。
サイバーセキュリティ企業Ontinueの情報セキュリティ担当ディレクター、ガレス・リンダール＝ワイズ氏は、Purple Llamaを、より安全なAI技術に向けた「前向きで積極的な一歩」と評した。
プロジェクト・パープル・ラマは、AI開発者、AWSやGoogle Cloudなどのクラウドサービス企業、Intel、AMD、Nvidiaなどの半導体企業、そしてMicrosoftを含むソフトウェア企業と協力しています。
Purple Llamaを通じて最初にリリースされたツールキットは、AIを活用したソフトウェアのサイバーセキュリティリスク評価ツールであるCyberSecEvalです。
暴力や違法行為に関する議論など、不適切または有害なテキストを識別する言語パターンを備えています。
開発者はCyberSecEvalを使用して、AIモデルが安全でないコードを生成したり、サイバー攻撃を助長したりする傾向があるかどうかを確認できます。
Meta社の調査によると、大規模な言語モデルは脆弱なコードを示唆することが多く、AIセキュリティにおける継続的なテストと改善の重要性が強調されている。
Llama Guardは、潜在的に有害または不快な言葉を識別するように訓練された大規模な言語モデルという、もう一つのツールキットです。
開発者はLlama Guardを使用して、モデルが安全でないコンテンツを生成または受け入れていないかを確認し、不適切な出力につながる可能性のあるプロンプトをフィルタリングすることができます。
（IFWによると）
彼はAIに多額の投資を行っており、新たに5つの量子プロジェクトを立ち上げた。
GUIDi AIベルトは、視覚障害者にとって杖の代わりとなるものです。
テクノロジー大手各社によるオープンソースAIアライアンスは、OpenAIと競合することになるだろう。
中国におけるAIチャットボット開発への独自のアプローチ。
ソース
コメント (0)