ディープフェイクはAIに関する最大の懸念事項

[広告_1]

スミス氏は最近ワシントン（米国）で行った演説で、AIに関する最大の懸念はディープフェイク、つまり本物そっくりな画像や動画を作成する技術だと述べた。そして、人々が本物の写真や動画と偽物を見分けられるよう支援する対策を求めた。

「ディープフェイクをめぐる問題に対処しなければなりません」とマイクロソフト社長は述べた。 「正当なコンテンツを改ざんし、人々を欺いたり、誤解させたりするためにAIが利用されることに対抗するための措置を講じなければなりません。」

彼はまた、最も重要なAIの形態に「安全性、物理的セキュリティ、サイバーセキュリティ、国家安全保障を守る義務」を付帯するライセンス付与を求めました。AIモデルが盗難されたり、輸出規制に違反する方法で使用されたりするのを防ぐために、既存の規制よりも少なくとも一歩進んだ新たな輸出規制が必要だと彼は述べました。

OpenAIのチャットボット「ChatGPT」が一般公開されて以来、AI規制はホットな話題となっています。大小さまざまな企業がAIの市場投入を急ぐ中、ワシントン州議会議員たちはAI規制の導入方法を模索しています。

先週、OpenAIのCEOサム・アルトマン氏は米国上院で、AIを使って選挙の公正性を妨害することは「大きな懸念」だと述べた。また、AIは規制される必要があると主張し、この分野における国際的な協力を求めた。

スミス氏は、AIによって引き起こされるあらゆる問題に対して、人間が責任を負う必要があると主張した。彼は、電力網、水道、その他の重要なインフラの管理に利用されるAI技術に「安全ブレーキ」をかけ、人間が制御できるようにするよう、議員らに促した。また、強力なAIモデルの開発者が自社の技術がどのように利用されているかを把握し、偽動画の特定にAI生成コンテンツが利用されているかどうかを国民に知らせるための、「顧客確認（KYC）」のようなシステムについても言及した。

今週初め、ペンタゴン付近で発生した爆発を捉えたAI画像がソーシャルメディアで拡散し、多くの「青いチェックマーク」を付けたアカウントによって共有されました。画像の出所は不明で、米国国防総省は偽物であることを確認したものの、それでも数分のうちに株式市場は大幅に下落しました。

33万6000人以上のフォロワーを持つ青いチェックマーク付きのTwitterアカウント「OSINTdefender」は、この写真を共有したサイトの一つでした。アカウントの所有者は後に虚偽の情報を拡散したことを謝罪し、 「このような画像は容易に情報操作に利用できる」ことを示した例だと述べました。

これは、スタイリッシュな白衣を着たローマ法王、ソニー・ワールド・フォトグラフィー・アワードを受賞した白黒写真、警察に逮捕されたドナルド・トランプ前大統領など、ここ数週間で人気のAI画像のうちの1つでもある。

（CNN、ガーディアン紙によると）

[広告2]
ソース