AI専門家やテクノロジーに精通した政治学者たちは、2024年の米国大統領選挙を前に、ChatGPTのようなAI生成ツールの予測不可能な性質について警鐘を鳴らしている。
「米国はそれに対する準備ができていない。」
フォックスニュースは5月15日、ミネソタ州に拠点を置くサイバーセキュリティ企業ZeroFoxのAI担当副社長であるAJ・ナッシュ氏が、アメリカ国民は生成型AIへの対応に備えができていないと警告したと報じた。ナッシュ氏によると、生成型AIは選挙運動用のメール、テキストメッセージ、 ビデオクリップを迅速に作成できるだけでなく、危険なツールに転用される可能性もあるという。
世界中の政府は AI ツールを規制する方法を見つけるために競争しています。
「生成型AIは、音声や動画コンテンツを作成する能力を大きく飛躍させます。それを大規模に行い、ソーシャルメディアプラットフォーム全体に配信できるようになれば、この技術は計り知れない影響力を持つでしょう」とナッシュ氏は説明した。ChatGPTのような生成型AIが実現できる多くの機能の中には、米国のような現代国家の選挙や投票に大きな影響を与える可能性のあるものが数多くある。
ChatGPTは短時間で大量のコンテンツを生成できます。
写真提供：ロイター
例えば、ChatGPTは候補者の声を模倣した自動音声メッセージを生成し、有権者に間違った日に投票するよう指示したり、候補者が犯罪を自白したり人種差別的なコンテンツを作成したりする偽の音声録音を公開したり、実際には行われていない演説やインタビューのビデオクリップを作成したりすることができます。さらに、地元のニュース報道に基づいたコンピューター生成画像が表示され、候補者の撤退発表など、誤解を招く情報が含まれることもあります。
「もし億万長者のイーロン・マスク氏が個人的に電話をかけてきて、特定の候補者に投票するように説得したらどうなるでしょうか？」と、アレン人工知能研究所（米国ワシントン州に拠点を置く）の元創設CEOであるオレン・エツィオーニ博士は問いかけた。「多くの人が彼の言うことを聞くでしょう。しかし、その電話をかけたのは彼ではなく、AIだったのです」とエツィオーニ博士は指摘した。
相手側からの脅威。
サイバーセキュリティ企業Forcepoint（米国テキサス州に拠点を置く）のグローバル最高技術責任者であるペトコ・ストヤノフ氏は、外国勢力がAIを悪用して2024年の米国大統領選挙を妨害しようとする可能性があると警告した。「外国勢力、サイバー犯罪組織、あるいは国家が誰かになりすまそうとしたらどうなるのか？どのような影響が出るのか？我々には対応策があるのか？」とストヤノフ氏は問いかけた。同氏によれば、米国は選挙期間中に外国からの偽情報の波に見舞われるだろうという。
ネブラスカ州選出のピート・リケッツ上院議員も、2024年の選挙期間中に親中団体がディープフェイク（本物の人物や出来事のように見える偽の画像や動画を作成する技術）を使用するリスクについて警告した。「彼らは間違いなくこの能力を持っており、我々はそれを非常に警戒する必要がある」とリケッツ議員はフォックスニュースのインタビューで述べた。
今年に入ってから、AIが生成した偽ニュースがソーシャルメディア上で繰り返し騒動を引き起こしている。例えば、バイデン氏がトランスジェンダーの人々を攻撃している偽の動画や、図書館で子供たちが悪魔崇拝を学んでいるように見せかけた捏造画像などが挙げられる。ドナルド・トランプ前大統領が犯罪行為をしている写真が警察の記録に載っているという情報が出回った際、多くの人がインターネット上の情報を鵜呑みにしたが、実際にはトランプ氏が犯罪行為をしている写真は一枚もなかった。他にも、トランプ氏が逮捕に抵抗しているように見えるAI生成画像があったが、もちろんそれらも偽物だった。
ニューヨーク州選出のイベット・クラーク下院議員は、候補者に対し、AIが生成した広告画像について有権者に通知することを義務付ける法案を提出した。クラーク議員はまた、合成画像を作成する者に対し、画像の出所を明確に示す透かしを入れることを義務付ける法案にも共同提案者として名を連ねた。複数の州も、ディープフェイクに関する懸念に対処するため、独自の提案を提出している。
一方、リケッツ上院議員は、今できることは、AIが生成する画像がもたらす危険性についてアメリカ国民への啓発を強化することだと提言した。同議員は、選挙開始前に米国政府が大学と協力して、偽画像を検出する能力を向上させるべきだと主張した。
ChatGPTがアップグレードされました。
Mashableによると、OpenAI（米国カリフォルニア州）はChatGPTを大幅にアップグレードし、実行中にウェブに接続して閲覧できるようにした。これにより、ChatGPTは最新の情報に基づいて更新され、より正確な回答を提供できるようになる。現在、Amazonなどの企業は、顧客コミュニケーションのためにChatGPTのようなインターフェースを構築・統合するAIエンジニアを採用している。
ソースリンク
コメント (0)