急速な進歩を遂げている人工知能（AI）は、医療、 教育、ビジネスから日常生活に至るまで、多くの分野に革命をもたらしている。しかし、この技術の負の側面は、サイバースペースにおける情報の管理と制御に重大な課題を突きつけている。
AIが生成した偽ニュースが氾濫している。
AIによって生成された偽ニュースは、主にオンライン販売のための閲覧数、いいね数、エンゲージメント数を獲得するため、あるいはプラットフォームから利益を得るために、ソーシャルメディアプラットフォーム上で拡散される。
偽ニュースを作成する者は、世間の注目を集めている時事問題に便乗することが多い。例えば、9月17日にクアンチ省ラオバオ村タンロン市場で発生した深刻な交通事故では12人が死亡したが、その後、ソーシャルメディアには痛ましい画像が多数投稿され、多くの人が涙を流した。ラオバオ村警察は、これらの画像がAIによって作成されたものであると特定し、誤解を招く偽画像の拡散について警告を発した。このような行為は、虚偽情報を拡散するだけでなく、捜査を妨害する。
同様に、7月19日にクアンニン省ハロン湾で発生した観光船グリーンベイ58号の転覆事故で数十人が死亡したことを受け、世間の注目が集まる中、多くのソーシャルメディアアカウントが犠牲者に関する感動的な画像や記事を投稿した。しかし、これらのコンテンツの大部分は、AIを用いて感情を操作し、ソーシャルメディアユーザーの反応を引き出すために作成された偽物だった。特に、過剰な同情を誘う偽画像が広く拡散されたことで、犠牲者の家族にさらなるトラウマを与える可能性があった。
AI技術の絶え間ない進歩により、わずか数分と簡単なコマンドだけで、ユーザーの意図に完璧に合致した魅力的なコンテンツの動画を作成できるようになりました。中でも、KlingAI、Veo 3、Soraといった次世代AIプラットフォームは、ベトナムを含む世界中のユーザーから高い人気を集めています。
さらに、ディープラーニングと偽造技術を組み合わせたディープフェイク技術も、世界的に大きな懸念事項となっています。この技術を使えば、本物そっくりの画像、音声、動画を作成できるため、偽物だと見破ることが非常に困難です。その結果、ベトナムをはじめ世界中で、この技術に関連した詐欺事件が数多く発生しています。
国家サイバーセキュリティ協会の常任副会長であるグエン・ミン・チン中将は、違法な目的でのAIの悪用が増加傾向にあることを指摘した。具体的には、AIaaS（AIが提供するツールやアプリケーション）がサイバー犯罪者によって悪用され、マルウェアの作成、音声、顔、テキストの偽装などが行われている。これは、詐欺、サイバー攻撃、データシステムへの侵入、さらには組織、企業、指導者のセキュリティを不安定化させ、評判を傷つけるためである。
ホアビン・サイバースペース社（CyPeace）の技術ディレクター、トラン・ゴック・アイン氏によると、AIユーザーにとってのリスクの一つは、ツール自体が生成する誤情報を受け取る可能性だという。さらに、機密情報や個人データの漏洩など、他にも多くの問題がある。
偽の画像が「視聴者を泣かせる」目的でオンライン上で拡散され、それによって「いいね！」を獲得し、インタラクションを増やしている（スクリーンショット）。
利用者の責任の強化
AIの開発と利用を厳しく規制するための技術的・法的措置が整備されるまでは、利用者は積極的に責任を持ってこの技術を利用する必要がある。
サイバーセキュリティ専門家で、全米サイバーセキュリティ協会の技術委員会委員長を務めるヴー・ゴック・ソン氏は、AIを悪用・利用する主体は人間であるため、AIの良い面も悪い面も人間と密接に関係していると指摘した。ユーザーが熟練しており、善意で利用すれば、AIはその強みをユーザーの利益のために活用できる。逆に、AIユーザーが理解不足であったり、違法な目的で悪用したりすれば、深刻な結果を招く可能性がある。「AIを効果的に利用・活用するには、チームとプロセスの構築に注力する必要がある。AIは、それを使いこなせる人の手に渡って初めてその真価を発揮する」と、同氏は述べた。
ディープフェイク技術は、現在のサイバー詐欺を助長する主要なツールであり、その危険性を鑑み、財務省は投資・事業法の草案作成において、情報混乱や詐欺を引き起こす技術の悪用を防ぐため、ディープフェイク技術事業を条件付き事業分野として規制する必要があると強調した。財務省によれば、ディープフェイク技術事業は現在、安全保障と秩序に対する複雑な潜在的リスクを抱える新たな分野の一つであるにもかかわらず、条件付き事業分野として規制されていない。
ハノイ弁護士協会のトラン・アン・トゥアン弁護士によると、許可なくAIを使用してコンテンツを作成すること、特に虚偽、捏造、または不正な情報を作成することは、民法の規定に違反する可能性がある。違反者は行政罰または損害賠償を科される可能性がある。重大な結果を招く場合は、刑事責任を問われる可能性もある。「ユーザーはAIにアクセスして使用する際には注意が必要であり、閲覧数やいいね数を増やすためにAIを悪用する行為は絶対に避けるべきだ。AIを使用したりオンライン環境に参加したりする際には、個人の責任感を高め、法律を遵守すべきだ」とトゥアン弁護士は助言した。
グエン・ミン・チン中将は、持続可能なAI開発の中核要素は人材であると強調した。研究者、エンジニア、サイバーセキュリティ専門家から管理者、ユーザーに至るまで、誰もが知識、スキル、倫理観、法的意識を十分に備えている必要がある。同中将によれば、これはAIシステムを構築・運用するチームであるだけでなく、サイバー空間におけるハイテク犯罪の防止、検出、対策においても重要な役割を担う。
ベトナムは人工知能に関する法律を制定する予定だ。
先日開催された人工知能に関する全国科学会議において、グエン・マン・フン科学技術大臣は、人工知能は大きな可能性を秘めている一方で、倫理、雇用、社会的な信頼といった多くの課題も提起していると述べた。したがって、人工知能の開発は迅速かつ安全で、人道的なものでなければならない。
グエン・マン・フン大臣によると、AIは人間を置き換えるものではなく、人間に奉仕し、人間のアシスタントとして機能するものである。AIは強力なツールではあるが、意思決定を行うのは人間である。したがって、AIは人間の思考、価値観、責任を置き換えるのではなく、支援するべきである。「科学技術省は、国際基準に調和しつつベトナムの実情に合わせたAIに関する国家倫理規定を策定し、AI法とAI戦略も策定する予定だ」とグエン・マン・フン大臣は述べた。
出典：https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm
コメント (0)