情報セキュリティが脅かされる場合、AI生成画像には注意が必要

急速な技術発展の時代において、人工知能（AI）を活用した画像作成のトレンドがソーシャルネットワーキングプラットフォーム上で広がり、多くのユーザー、特に若者の注目を集めています。AIによって作成された写真は創造性に富み、エンターテイメント性、コンテンツのパーソナライズ、個性表現といった様々な目的に活用されています。しかし、その魅力の裏には、セキュリティや情報セキュリティに関する潜在的なリスクが潜んでいます。

娯楽か潜在的なトリガーか?

ハノイ警察によると、最近、人工知能（AI）を用いて画像を作成するというトレンドが広がり、多くのユーザーの注目を集めている。主に娯楽目的であるとはいえ、これらの画像の拡散は多くのリスクを伴い、特に8月革命80周年と9月2日の建国記念日の時期には、セキュリティと情報セキュリティに直接的な影響を与える。

現在、ユーザーはAIソフトウェアを通じて簡単に画像にアクセス・作成し、アバターとして使用したり、Zalo、TikTok、Facebookなどのソーシャルメディアにニュースや記事を埋め込みしたりできます。しかし、ユーザーが注意を怠り、政治的に鈍感で、AIが生成した画像を制御できない場合、ホアンサ諸島とチュオンサ諸島の情報が欠落したベトナム地図の画像など、ベトナム国民にふさわしくない不正確な画像を使用することになります。これらの不正確な画像を使用すると、サイバースペースにおける世論に大きな影響を与え、国境主権問題や歴史、民族の文化的伝統について誤った認識を形成する可能性があります。

AIが、ホアンサ諸島とチュオンサ諸島が省略されたベトナムの地図がプリントされたアオザイの画像を作成しました。（写真：ハノイ市警察）

ハノイ在住のソーシャルメディアユーザーが、AIソフトウェアを用いてベトナムの地図をプリントしたアオザイの写真を作成し、TikTokに投稿して「国家の誇り」トレンドに応えようとしました。しかし、AIが作成した画像には西沙諸島と南沙諸島が写っていませんでした。この投稿は瞬く間に拡散し、数千回もの閲覧とシェアを獲得しましたが、オンラインコミュニティから強い反発を受けました。当局が介入し、コンテンツの削除を要求し、国家主権に関する虚偽情報の拡散に警告を発しました。

当局からの警告

ベトナム国営サイバーセキュリティ技術会社（NCS）のテクニカルディレクター、ヴー・ゴック・ソン氏によると、近年、AIとAIベースのアプリケーションは生活の多くの分野で急速に発展しています。ChatGPTは、IT専門家ではないほとんどの人が簡単に利用できるアプリケーションであるため、瞬く間に人気を博しました。

ChatGPTは、技術面では既存のAI技術と比べて画期的なものではありません。しかし、データ面では、ChatGPTは様々な分野の膨大なデータに基づいて構築されており、ユーザーに「何でも知っている」という感覚を与えるという点で大きな成功を収めています。それが、ChatGPTのこれまでの大きな魅力でもあります。

セキュリティ面では、ChatGPT自体は質疑応答サービスを提供するために生まれたため、最大のリスクは、ChatGPTがユーザーに回答する内容が何者かによって操作され、「毒化」され、ChatGPTに虚偽の情報を提供させられるかどうかです。現在、入力データは同社によって人間によって管理、選別、さらにはラベル付けされているため、ChatGPTが攻撃されるという証拠はなく、上記のリスクは限定的です。しかし、今後、このサービスが拡大し続け、より多くの入力データが必要になると、データ管理のリスクから、メーカーはより厳格なセキュリティ対策を講じる必要があります。

AIソフトウェアは、魅力的で創造的な画像を作成する能力など、多くの利点をもたらしますが、無責任に使用すると「諸刃の剣」となる可能性があります。ハノイ市警察サイバーセキュリティ・ハイテク犯罪対策局は、人々に以下のことを推奨しています。

1. ベトナムの地図の画像、または不正確な画像、法律に違反する画像、ベトナムの伝統、習慣、文化に反する画像を作成および使用しないでください。

2. 親族、友人、地域社会と定期的に警告情報を共有し、意識を高め、敵対勢力の陰謀や策略を阻止してください。国民が国の重要な政治イベントに乗じて違法行為に及ぶことがないようにしてください。

3. 個人データが収集されるリスクを回避するために、検証されていない AI アプリケーションをインストールして使用するときは注意してください。

4. ソーシャルネットワーク上の活動に参加するときは、自分自身とコミュニティに対して責任感を持ちましょう。

違反行為については、法令の規定に基づき厳正に対処いたします。

ユーザーとして、サイバースペースに参加する際には、一人ひとりが明確な責任感を持つ必要があります。「流行を追う」ことは、無知や無意識のうちに不正行為を助長することと引き換えにすべきではありません。メディアの役割は、ニュースを報道するだけでなく、世論を方向づけ、真実と国家の価値観を守ることに貢献することです。

出典: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html