ChatGPTのリアルな写真作成機能による詐欺の恐れ

[広告1]

ChatGPTは「写真のように描く」

3月26日、OpenAIがChatGPTに画像生成機能を追加した「Images in ChatGPT」を正式にリリースした際、世界中のAI（人工知能）ユーザーコミュニティはベトナムのみならず大きな話題となりました。これは、同社のインテリジェントモデルユーザー向けの画像生成機能に重点が置かれていたためです。ChatGPTにも画像生成機能はありましたが、機能が制限されており、別の有名なテキスト画像変換モデルであるDALL-Eを経由する必要がありました。

このツールは、テキストを絵に変換したり、「Photoshopのように画像を組み合わせたり」できる機能で、すぐに注目を集めました。多くの人が出力画像の品質を「驚くほど素晴らしい」と述べ、市場で人気のAIモデルと比較して「優れている」と評価しました。

ChatGPTは簡単なコマンドでリアルなコーヒーカップを作成します

OpenAIの研究チームリーダーであるガブリエル・ゴー氏によると、GPT-4oモデルを用いたChatGPTの画像生成能力の大幅な向上は「バインディング」にあります。これは、AI画像生成器が属性とオブジェクト間のリンクをどの程度維持するかを表す用語です。ゴー氏は、GPT-4oは15～20種類の異なるオブジェクトの属性を混乱なく正確にリンクできるため、生成されるコンテンツの精度と信頼性が大幅に向上したと主張しました。

ChatGPTのImagesは、画像生成能力に優れているだけでなく、他の画像生成AIツールの「致命的」な弱点である、画像内の文字やテキストの表示も解決しています。実際、多くのテキストを含む画像も正確に表示されるため、偽物と本物の区別が難しくなっています。

このツールの欠点は、画像の生成に時間がかかることですが、高品質の画像、正確な詳細、そしてユーザーの説明との一致には常に忍耐力が必要となるため、この遅延は妥当であると考えられます。研究チームは、この遅延の問題は将来的に改善されると述べています。

写真を組み合わせる機能に関する多くの懸念

ChatGPTとOpenAIがユーザーにもたらす初期体験の楽しさに加え、情報セキュリティ、プライバシー、そして悪用リスクの問題が再び前面に押し出されています。「近い将来、オンラインで見る画像は必ずしも現実のものではない」と、ベトナムのあるFacebookユーザーは、ChatGPTに全く非現実的な画像を作成しながらも写真のようにリアルに見えるように依頼できることに懸念を示しました。例えば、俳優で元レスラーのドウェイン・ジョンソン（ザ・ロック）がチューインガムのブランドを宣伝している写真や、ストーブの上に座っている三毛猫の写真は写真と全く同じに見える、といった具合です。

Người dùng hào hứng xen lẫn lo ngại vì khả năng tạo ảnh của ChatGPT - Ảnh 1. — 詳細なコマンドが提供されているため、ユーザーは従来の写真編集ツールの使い方に関する詳細な知識を必要とせずに、驚くような結果を生み出すことができます。

多くの人がこの新ツールの「脱ぎ捨て」機能を試した。TN氏（ハノイ）は、インターネットで見つけたモデルの写真を使ってChatGPTに衣装を着替えるよう指示したところ、ほぼすべての指示が高精度で実行されたという。「しかし、それでも何度か拒否されることがありました。主に、著作権のある画像の作成や過度にセクシーなコンテンツに関するシステムポリシー違反が原因でした」とTN氏は語った。

Thanh Nien氏のテストでは、ChatGPTは現実世界や映画、物語に登場する有名人や著作権のあるキャラクターに関連する画像の作成を拒否しました。ベトナムでアイスティーを飲んでいるドクター・ストレンジの画像を作成するように求められた際、システムは「送信された参照画像にはマーベルの著作権を持つキャラクターであるドクター・ストレンジが明確に写っており、これは現在のコンテンツポリシーに違反しているため、要求どおりに画像を作成することはできません」と返答しました。

ChatGPTのマルチモーダル製品責任者であるジャッキー・シャノン氏は、ChatGPTの画像はディープフェイク、ポルノ、詐欺コンテンツに対して強力な保護機能を備えていると認めました。特に、生成された画像にはC2PA標準のメタデータが組み込まれ、AI製品であることを示すマークが付けられますが、確認には別途ツールが必要となります。

しかし、いまだに「法律を曲げて」有名人の画像を娯楽目的で挿入することに成功している人は少なくありません。例えば、CEOのティム・クック氏がiPhoneではなくサムスンのスマートフォンを持っている画像、俳優のロバート・ダウニー・Jr.氏が野菜キャンディーを噛んでいる画像、ベトナムの小さな路地でクリスティアーノ・ロナウドがリオネル・メッシと大勢の人の前でボールを奪い合っている画像など…

[広告2]
出典: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm