急速な進歩を遂げる人工知能（AI）は、医療、 教育、ビジネスから日常生活に至るまで、多くの分野に革命をもたらしています。しかし、この技術には欠点があり、サイバー空間における情報の管理と制御に大きな課題をもたらしています。
AIによって生成されたフェイクニュースが溢れている。
AI によって生成された偽ニュースは、主にオンライン販売のための視聴回数、いいね、エンゲージメントを獲得するため、またはプラットフォームから利益を得るために、ソーシャル メディア プラットフォームで拡散されます。
フェイクニュースを作成する者は、しばしば世間の注目を集めている時事問題を悪用します。例えば、9月17日にクアンチ省ラオバオ村タンロン市場で発生した深刻な交通事故では、12人が犠牲となりました。その際、ソーシャルメディアには悲痛な画像が投稿され、多くの視聴者が涙を流しました。ラオバオ村警察はこれらの画像がAIによって作成されたものであることを特定し、誤解を招くようなフェイク画像の拡散について警告を発しました。このような行為は、虚偽の情報を拡散するだけでなく、捜査の妨げにもなります。
同様に、7月19日にクアンニン省ハロン湾で発生した観光船グリーンベイ58号の転覆事故（数十人の死者を出した）をめぐる世間の注目に乗じて、多くのソーシャルメディアアカウントが犠牲者に関する感情的な画像やストーリーを投稿しました。しかし、これらのコンテンツの大部分は、感情を操作し、ソーシャルメディアユーザーの反応を引き出すためにAIを用いて作成された偽物でした。特に、誇張された同情心を示す偽画像の蔓延は、犠牲者の遺族にさらなるトラウマを与える可能性があります。
AI技術は絶えず進化しており、数分と簡単なコマンドだけで、ユーザーの意図に完璧に合致した魅力的なコンテンツを持つ動画を作成できます。中でも、KlingAI、Veo 3、Soraといった次世代AIプラットフォームは、ベトナムを含む世界中のユーザーから高い人気を誇っています。
さらに、ディープフェイク技術（ディープラーニングと偽造技術を組み合わせた技術）も、世界的に大きな懸念事項となっています。この技術は、非常にリアルに見える画像、音声、動画を作成できるため、偽物と見分けるのが非常に困難です。その結果、ベトナム国内だけでなく世界中で、この技術に関連した詐欺が数多く発生しています。
国家サイバーセキュリティ協会常任副会長のグエン・ミン・チン中将は、AIを違法目的で悪用する傾向が高まっていると指摘しました。具体的には、AIが提供するツールやアプリケーションであるAI-as-a-Serviceが、サイバー犯罪者によってマルウェアの作成、音声、顔、テキストの偽装などに悪用されています。これは、詐欺、サイバー攻撃、データシステムへの侵入、さらにはセキュリティの不安定化や組織、企業、リーダーの評判の毀損にまで利用されています。
ホアビン・サイバースペース株式会社（CyPeace）のテクニカルディレクター、トラン・ゴック・アン氏によると、AIユーザーにとってのリスクの一つは、ツール自体が生成した誤情報を受け取る可能性があることです。さらに、機密情報や個人データの漏洩など、他にも多くの問題があります。
「視聴者を泣かせる」ために偽の画像がオンラインで拡散され、「いいね！」を獲得してインタラクション数を増やしている（スクリーンショット）。
ユーザーの責任を強化する
AIの開発と利用を厳しく管理するための技術的および法的措置が整備される前に、ユーザーはこの技術を積極的に責任を持って利用する必要があります。
国家サイバーセキュリティ協会技術委員会委員長でサイバーセキュリティ専門家のヴー・ゴック・ソン氏は、AIを活用・利用する主体は人間であるため、AIの良い面も悪い面も人間と密接に結びついていると指摘した。ユーザーが熟練し、AIを良い目的に活用すれば、AIはその長所を効果的に活用する。逆に、AIユーザーが理解不足であったり、違法な目的で利用したりすると、深刻な結果を招く可能性がある。「AIを効果的に活用・活用するには、チームとプロセスの構築に重点を置く必要があります。AIは、それを使いこなせる人の手に渡って初めて、その価値を発揮します」と、サイバーセキュリティ専門家は述べた。
ディープフェイク技術は、現在のサイバー詐欺を助長する主要なツールであるが、その危険性を踏まえ、財務省は投資・事業法の起草過程において、情報妨害や詐欺につながる技術の悪用を防ぐため、ディープフェイク技術関連事業を条件付き事業分野として規制する必要があると強調した。財務省によると、ディープフェイク技術関連事業は現在、安全保障と秩序に対する複雑な潜在的リスクを抱える新たな分野の一つであるにもかかわらず、条件付き事業分野として規制されていない。
ハノイ弁護士会のトラン・アン・トゥアン弁護士によると、AIを用いて無断でコンテンツを作成すること、特に虚偽、捏造、詐欺的な情報を作成することは、民法の規定に違反する可能性がある。違反者は行政罰または損害賠償に直面する可能性がある。深刻な結果をもたらす場合には、刑事責任を問われる可能性がある。トゥアン弁護士は、「ユーザーはAIへのアクセスと使用において慎重になる必要があり、視聴回数やいいね！を獲得するためにAIを悪用する行為は絶対に避けるべきです。AIを使用し、オンライン環境に参加する際には、個人の責任を強化し、法令を遵守する必要があります」とアドバイスした。
グエン・ミン・チン中将は、持続可能なAI開発の中核要素は人材であると強調した。研究者、エンジニア、サイバーセキュリティの専門家から管理者、そしてユーザーまで、誰もが知識、スキル、倫理、そして法的意識を十分に備えている必要がある。チン中将によると、これはAIシステムを構築・運用するチームであるだけでなく、サイバー空間におけるハイテク犯罪の防止、検知、そして対策における重要な力でもある。
ベトナムには人工知能に関する法律が制定される予定。
最近開催されたAIに関する全国科学会議において、グエン・マイン・フン科学技術大臣は、「AIは大きな可能性をもたらす一方で、倫理、雇用、社会的信頼といった多くの問題も引き起こす。したがって、AI開発は迅速かつ安全で、人道的に行われなければならない」と述べた。
グエン・マイン・フン大臣によると、AIは人間に取って代わるものではなく、人間に奉仕し、アシスタントとして機能すべきものだという。AIは強力なツールではあるが、意思決定を行うのは人間である。したがって、AIは人間の思考、価値観、責任を置き換えるのではなく、サポートするべきである。「科学技術省は、国際基準に準拠しつつベトナムの実情に合わせたAIに関する国家倫理規定を制定するとともに、AI法とAI戦略を策定する」とグエン・マイン・フン大臣は述べた。
出典: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm
コメント (0)