ChatGPT の新しい画像生成技術による領収書偽造の危険性。

(CLO) ChatGPT は最近、優れた画像内テキスト作成機能を備えた、GPT-4o モデルに統合された新しい画像作成ツールをリリースしました。

しかし、ユーザーはすぐに、この機能がレストランの請求書を偽造するために悪用される可能性があることに気付きました。

投資家のディーディー・ダス氏は、サンフランシスコのステーキハウスの偽の領収書の画像をXに投稿し、その写真はGPT-4oを使用して作成されたと主張した。

投資家のディーディ氏はソーシャルメディアプラットフォームXでこの画像を共有した。

他の多くのユーザーもこの効果をうまく再現しており、食べ物や飲み物の汚れを加えてリアリティを高めています。

別のユーザーは、非常にリアルに見える食べ物のシミが付いたレシートの画像を共有しましたが、これも ChatGPT によって作成されたものでした。

あるいは、たとえば、フランスのユーザーが地元のレストランチェーンから偽造されたくしゃくしゃになったレシートを投稿したとします。

この写真はフランスのユーザーによって共有されました。

他にも多くの人がこの新機能をテストし、店舗向けの偽のレシートも作成しましたが、画像には依然として、合計金額のピリオドの代わりにコンマが使われている、計算が間違っている（基本的な計算における AI の弱点）などの矛盾が残っています。

ただし、悪意のある行為者は、ソフトウェアを使用して簡単な編集を行ったり、コマンド (プロンプト) を変更したりすることで、これを簡単に修正できます。

偽の請求書は簡単に作成できるため、存在しない経費の不正な払い戻しなど、重大なリスクが生じます。

この問題に対し、OpenAIはAIが生成したすべての画像には、ChatGPT由来であることを示すメタデータが含まれていると述べました。また、ユーザーがポリシーに違反した場合には「措置を講じ」、現実世界のフィードバックから「継続的に学習」しています。

偽の請求書の作成を許可することについて尋ねられたOpenAIの広報担当者タヤ・クリスチャンソン氏は、目標は「創造の自由を最大限にすること」だと説明し、偽の請求書は金融教育、芸術、または広告目的で使用される可能性があると示唆した。

AIが悪用されたのは今回が初めてではありません。過去には、MidJourneyとDALL-Eが、書類、身分証明書、さらには通貨の偽造画像の作成に使用されていました。

カオフォン（TC、MSBによる）

出典: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html