ChatGPT使用時のセキュリティリスク

[広告_1]

アメリカ最大の銀行JPモルガン・チェース、アマゾン、テクノロジー企業のアクセンチュアはいずれも、データセキュリティ上の懸念から従業員によるChatGPTの使用を制限している。

CNNによれば、これらの企業の懸念は完全に正当なものである。 3月20日、OpenAIのチャットボットがクラッシュし、ユーザーデータが公開された。このバグはすぐに修正されましたが、同社はこの問題がChatGPT Plusユーザーの1.2%に影響を与えたことを明らかにしました。漏洩した情報には、氏名、メールアドレス、請求先住所、クレジットカード番号の下4桁、カードの有効期限などが含まれています。

3月31日、イタリアのデータ保護当局（ガランテ）は、OpenAIが脆弱性を公表した後、プライバシー上の懸念を理由にChatGPTの一時的な禁止を命じた。

法律事務所フォックス・ロスチャイルドLLPのデータセキュリティとプライバシーの共同議長マーク・マクリアリー氏は、ChatGPTをめぐるセキュリティ上の懸念は誇張されていないとCNNに語った。彼はAIチャットボットを「ブラックボックス」に例えた。

ChatGPTは2022年11月にOpenAIによってリリースされ、コマンド（プロンプト）を与えることでエッセイを書いたり、物語や歌詞を作ったりできる機能により急速に注目を集めました。 GoogleやMicrosoftのようなテクノロジー大手も、膨大なオンラインデータでトレーニングされた大規模言語モデルを活用した、同様に機能するAIツールを展開している。

マクリア氏は、ユーザーがこうしたツールに情報を入力する際、それがその後どのように使用されるかは分からないと付け加えた。業務メールの作成や会議のメモを取るためにツールを使用する従業員が増えており、企業秘密が漏洩するリスクが高まっているため、企業にとっては懸念事項です。

ボストンコンサルティンググループ (BCG) の AI 倫理担当ディレクターのスティーブ・ミルズ氏は、企業は従業員が誤って機密情報を開示することを懸念していると述べた。人々が入力したデータがこの AI ツールのトレーニングに使用されている場合、データの制御権は他者に渡っていることになります。

OpenAIのプライバシーポリシーによれば、同社はAIモデルを改善するためにサービス利用者のすべての個人情報とデータを収集する可能性がある。この情報は、サービスの改善や分析、調査の実施、ユーザーとのコミュニケーション、新しいプログラムやサービスの開発に利用されることがあります。

プライバシーポリシーでは、OpenAI は法律で義務付けられている場合を除き、ユーザーに通知することなく個人情報を第三者に提供する場合があると規定されています。 OpenAI にも独自の利用規約文書があるが、同社は AI ツールとやりとりする際に適切な措置を講じる責任の大部分をユーザーに負わせている。

ChatGPT の所有者は、AI の安全性に対するアプローチについてブログ記事を書いています。同社は、データを使ってサービスの販売や広告、ユーザーのプロフィール作成を行っているのではなく、OpenAI はモデルをより有用なものにするためにデータを使用していると強調している。たとえば、ユーザーの会話は ChatGPT のトレーニングに使用されます。

Bard AI ツールを開発した Google のプライバシーポリシーには、AI ユーザー向けの追加規定があります。同社は会話の一部を選択し、自動ツールを使用して個人を特定できる情報を削除します。このアプローチにより、Bard が改善され、ユーザーのプライバシーが保護されます。

サンプルの会話はトレーナーによって確認され、ユーザーの Google アカウントとは別に最大 3 年間保存されます。 Googleはまた、Bard AIでの会話に自分自身や他人の個人情報を含めないようユーザーに注意を促している。このテクノロジー大手は、これらの会話を広告目的で使用することはなく、将来的に変更を発表すると強調した。

Bard AI では、ユーザーは会話を Google アカウントに保存しないことを選択できるほか、リンク経由で会話を確認したり削除したりすることもできます。さらに、同社では、バードが回答に個人情報を含めることを防ぐための安全対策を講じています。

スティーブ・ミルズ氏は、ユーザーや開発者が新しいテクノロジーに潜むセキュリティリスクに気付いたときには手遅れになっていることがあると考えています。たとえば、オートコンプリートによってユーザーの社会保障番号が誤って公開される可能性があります。

ミルズ氏は、ユーザーは他人と共有したくないものをこれらのツールに保存すべきではないと述べた。

[広告2]
ソースリンク