ChatGPT のリアルな画像を作成できる機能から詐欺が発生するのではないかという懸念。

[広告1]

ChatGPTは「写真のように描く」

3月26日、OpenAIが自社の知能モデルユーザー向けに画像作成に特化したツール「Images in ChatGPT」を正式にリリースした際、世界およびベトナムのAIユーザーコミュニティは大きな話題となりました。ChatGPTは以前から画像作成機能を備えていましたが、その機能は限定的で、DALL-Eと呼ばれる別の有名なテキスト画像変換モデルに依存していました。

このツールは、テキストをイラストに変換し、「Photoshop品質の画像合成」を実行できるという点で、すぐに注目を集めました。多くのユーザーが出力画像の品質を「驚異的」と評価し、そのほとんどが市場で人気の他のAIモデルよりも「優れている」と評価しました。

ChatGPT は、簡単なコマンドだけでリアルなコーヒーカップの画像を作成します。

OpenAIの研究責任者であるガブリエル・ゴー氏によると、GPT-4oモデルを用いたChatGPTの画像生成能力の大きな向上は「バインディング」にあります。これは、AI画像生成器が属性とオブジェクト間のリンクを維持する度合いを指す用語です。ゴー氏は、GPT-4oは15～20種類の異なるオブジェクトの属性をエラーなく正確にリンクできるため、生成されるコンテンツの精度と信頼性が大幅に向上したと主張しています。

ChatGPTのImagesは画像作成に優れているだけでなく、他のAI画像作成ツールの重大な弱点である、画像内のテキストのレンダリングにも対処しています。実際、テキストを含む画像の多くは正確にレンダリングされているため、本物と偽物の区別がますます困難になっています。

このツールの欠点は、画像作成時間が比較的長いことですが、正確なディテールとユーザーの説明に一致する高品質な画像を作成するには常に忍耐が必要であるため、この遅延は妥当だと考えられています。研究チームは、この遅延の問題は将来的に改善されると述べています。

画像操作の可能性について多くの懸念が提起されている。

ChatGPTとOpenAIがユーザーに提供する当初の楽しみを超えて、情報セキュリティ、プライバシー、そして搾取のリスクに関する懸念が再び表面化しています。「近い将来、オンラインで見る画像が必ずしも本物とは限らなくなるかもしれない」と、ベトナムのあるFacebookユーザーは懸念を表明しました。彼はChatGPTに、写真と同じくらいリアルに見える完全に捏造された画像の作成を依頼できるからです。例えば、俳優で元レスラーのドウェイン・ジョンソン（ザ・ロック）がチューインガムのブランドを宣伝している写真や、写真そっくりのストーブの上に座っている三毛猫の写真などです。

Người dùng hào hứng xen lẫn lo ngại vì khả năng tạo ảnh của ChatGPT - Ảnh 1. — 詳細なコマンドが提供されているため、ユーザーは従来の写真編集ツールに関する詳細な知識がなくても、驚くような結果を生み出すことができます。

実際、多くの人がこの新しいツールの「脱衣」機能を試しました。TNさん（ハノイ）は、インターネットで見つけたモデルの写真を使ってChatGPTに衣装の着替えを依頼したところ、ほぼすべてのリクエストが高精度で実現されたと述べています。「しかし、リクエストが拒否されることが何度かありました。主に、著作権のある画像や過度に示唆的なコンテンツの作成に関するシステムポリシー違反が原因でした」とTNさんは語りました。

タンニエン紙が実施したテストでは、ChatGPTは現実世界や映画、コミックに登場する著名人や著作権のあるキャラクターに関連する画像の作成を拒否しました。ベトナムでアイスティーを飲んでいるドクター・ストレンジの画像を作成するように求められた際、システムは「送信された参照画像にはマーベルの著作権のあるキャラクターであるドクター・ストレンジが明確に写っており、これは当社の現在のコンテンツポリシーに違反しているため、ご依頼どおりの画像を作成することはできません」と回答しました。

ChatGPTのマルチモーダル製品責任者であるジャッキー・シャノン氏は、ChatGPTの画像はディープフェイク、ポルノ、詐欺コンテンツに対する強力な保護機能を備えていると断言しています。特に注目すべきは、生成された画像にはAI製品であることを識別する標準的なC2PAメタデータが組み込まれている点ですが、検証には別のツールが必要です。

しかし、いまだに多くの人が「ルールを回避」し、有名人の画像を娯楽目的で利用しています。例えば、CEOのティム・クック氏がiPhoneではなくサムスンのスマートフォンを持っている写真、俳優のロバート・ダウニー・Jr.氏が野菜キャンディーを噛んでいる写真、ベトナムの小さな路地でクリスティアーノ・ロナウドとリオネル・メッシが大勢の観客の前でボールを奪い合う絵画シリーズなど…

[広告2]
出典: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm