AI操作によってフェイクニュースはますます巧妙化している
最近、ハノイで開催されたベトナムジャーナリスト協会とタイジャーナリスト協会の会議において、両協会の指導者はほとんどの時間を「フェイクニュース」問題への言及に費やし、これはもはや国内の問題ではなく、地域や世界に予測不可能な影響を及ぼしている重大な問題であると述べた。
Google DeepMindの調査によると、人間を装った画像、動画、音声の作成は、AIチャットボットなどのツールを使用した誤情報の作成のほぼ2倍に上ります。
ここ数カ月、リシ・スナック英首相やその他世界の指導者のディープフェイクがTikTok、X、インスタグラムに登場しており、ソーシャルネットワーク側がコンテンツにラベルを付けたり削除したりする努力をしているにもかかわらず、視聴者がそれが偽物だと気付かない可能性があり、その拡散が有権者に影響を与える可能性があると懸念されている。
総選挙を前に、リシ・スナック英国首相の偽アート作品がTikTokとインスタグラムに登場した。（写真：AFP）
テクノロジー時代におけるフェイクニュースの影響を評価したジャーナリズム・プロパガンダアカデミー、ジャーナリズム・コミュニケーション研究所の講師、ルオン・ドン・ソン理学修士は、AIと誤情報が融合した産物、いわゆる「シュールなフェイクニュース」は、出来事や社会問題に対する人々の認識を歪め、状況判断や意思決定に影響を与える可能性があると述べた。これは、個人的な小さな決断から、地域社会や国家に影響を与える重要な決断に至るまで、深刻な結果をもたらす可能性がある。
ハイパーフェイクニュースは、世論操作、暴力扇動、分断の扇動、社会の安定を損なう手段として利用される可能性があります。政治の場においては、ハイパーフェイクニュースは民主主義制度への信頼を損ない、選挙結果に影響を与え、さらには紛争を扇動する可能性もあります。
ジャーナリストと報道機関が直面する課題について、ルオン・ドン・ソン理学修士は、超現実的なフェイクニュース、特にディープフェイクの巧妙化により、経験豊富なジャーナリストであっても本物と偽物の区別がますます難しくなっていると述べた。
「情報爆発の時代において、ジャーナリストや報道機関は迅速かつ正確な情報提供をますます強く求めています。しかし、こうしたプレッシャーは、ジャーナリストが綿密な検証をせずに性急に情報を発信することにつながる可能性があり、現実離れしたフェイクニュースが蔓延する機会を生み出しています。さらに、ジャーナリストや報道機関は、情報の検証と発信を慎重に行わなければ、法的および倫理的なリスクに直面することになります」とソン氏は述べた。
AIに情報を検証させる
ルオン・ドン・ソン理学修士によると、この種のフェイクニュースに対処するには、最新の技術的解決策を適用することが極めて重要だという。
「これらのソリューションは、フェイクニュースの検出と排除だけでなく、作成の初期段階からフェイクニュースを予防することにも重点を置いています」とドン・ソン理学博士は述べた。
まず、孫氏によると、今日最も重要な技術の一つは、人工知能システムを用いたフェイクニュースの検出です。現代のAIシステムは、文脈を分析し、複数の情報源から得た情報を比較し、情報内容の異常を検出することができます。典型的な例としては、AIを用いて動画や画像を分析し、ディープフェイク技術を用いた編集や制作の兆候を検出することが挙げられます。
次に、ソーシャルメディアプラットフォームや検索エンジンも、フェイクニュースが拡散する前に自動的に分類・除外する機械学習アルゴリズムを積極的に導入しています。これらのアルゴリズムは、共有パターン、拡散速度、さらには投稿のトーンにおける異常性を認識し、情報がフェイクである可能性を評価するように設計されています。
さらに、ブロックチェーン技術を用いて情報の出所を管理することも潜在的な解決策の一つです。ブロックチェーンは透明性と不変性を備えた認証システムを構築できるため、あらゆる情報の出所と履歴を追跡し、正確性と信頼性を確保するのに役立ちます。
AIは、判別が難しい偽のコンテンツや誤解を招く情報や画像を作成し、個人や組織の評判に大きな損害を与え、さらには国家や民族の利益を害する可能性もあります。
ホーチミン市人文社会科学大学ジャーナリズム・コミュニケーション学部ジャーナリズム学科長のファン・ヴァン・トゥ氏は、ルオン・ドン・ソン修士課程学生と同様の意見で、AIの強みをジャーナリズムに生かすスキルを提供することに加え、AIツールを使用して情報を検証する必要もあると強調しました。
ソース検証は、本質的には情報源の信頼性を評価することであり、情報源を検証し、他の情報源と比較し、ファクトチェックツールを使用して信頼性をチェックする重要なスキルです。
興味深いことに、Google Image、Tineye 逆画像検索、Whopostedwhat.com、Waybackmachine、Webarchive.org、InVID、WeVerify、ExifTool、Metapicz など、ファクトチェッカーをサポートする従来のツールに加えて、検証プロセスでジャーナリストをサポートする AI 統合ツールが現在数多く存在します。
ファン・ヴァン・トゥ氏は、現在のジャーナリストの専門スキル育成においては、AIによって操作されたフェイクニュースの攻撃に対抗するための情報評価能力の育成に重点を置く必要があると述べた。 「AIツールを用いてAI関連のエラーに対処することは、ジャーナリストや報道機関が役割を適切に遂行するだけでなく、情報の質を向上させ、偽情報やメディアの悪影響から国民を守るための最速の手段です」とトゥ氏は述べた。
しかし、杜氏はジャーナリストの情報評価能力はツールだけに頼ることはできないと指摘した。AIはニュースコンテンツの分析を支援することはできるが、あらゆる種類のフェイクニュースや操作された情報を検知できるわけではないことをまず指摘しておかなければならない。AIソフトウェアは、検知に用いるAI技術そのものに騙される可能性があるのだ。
「どんなツールも魔法の杖ではありませんが、偽の写真や動画を検出するAIツールは、検証プロセスやデューデリジェンス手法の一部として依然として貴重なリソースです」とファン・ヴァン・トゥ氏は述べた。
ホアザン
[広告2]
出典: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html
コメント (0)