ChatGPTの新しい画像ジェネレーターが領収書偽造の脅威に

(CLO) ChatGPT は最近、画像内での優れたテキスト作成機能を備えた、GPT-4o モデルに統合された新しい画像作成ツールをリリースしました。

しかし、ユーザーはすぐに、この機能がレストランの請求書を偽造するために悪用される可能性があることに気付きました。

投資家のディーディー・ダス氏は、サンフランシスコのステーキハウスの偽の領収書の画像をXに投稿し、その画像はGPT-4oを使用して作成されたと主張した。

投資家のディーディ氏はこの画像をソーシャルネットワークXで共有した。

他の多くのユーザーも、食べ物や飲み物の汚れを加えてリアルさを増すなど、これを再現することに成功しています。

別のユーザーは、食べ物のシミが付いたレシートの写真を共有しました。これは非常にリアルに見えますが、これも ChatGPT によって作成されたものです。

あるいは、地元のレストランチェーンから偽造した、くしゃくしゃに折れたレシートを投稿したフランスのユーザーもいる。

フランスのユーザーが共有した写真。

他にも多くの人がこの新機能をテストし、店舗向けの偽のレシートも作成しましたが、写真には依然として、合計金額のピリオドの代わりにコンマが使われている、計算が間違っている（基本的な計算における AI の弱点）など、不合理な点が残っています。

ただし、攻撃者はソフトウェアを使用して簡単な編集を行うか、コマンドプロンプトを微調整するだけで修正できます。

偽の請求書を簡単に作成できるため、存在しない経費の不正な払い戻しなど、大きなリスクが生じます。

OpenAIはこの問題に対し、AIが生成したすべての画像には、その画像がChatGPT由来であることを識別するメタデータが含まれていると述べた。同社はまた、ユーザーがポリシーに違反した場合には「措置を講じ」、現実世界からのフィードバックから「継続的に学習」している。

偽の請求書の作成を許可することについて尋ねられたOpenAIの広報担当者タヤ・クリスチャンソン氏は、その目標は「創造の自由を最大限にすること」だと説明し、偽の請求書は金融教育、芸術、または広告目的で使用される可能性があると示唆した。

AIが悪用されたのは今回が初めてではありません。過去には、MidJourneyとDALL-Eが、書類、IDカード、さらには通貨の偽造画像の作成に使用されました。

カオフォン（TC、MSBによる）

出典: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html