ソーシャルメディア、AI、増幅アルゴリズム：世界をひっくり返す「原子」の組み合わせ

(NB&CL) たとえ小さな出来事であっても、ソーシャルネットワーク、AI、そして増幅アルゴリズムの「原子的」な組み合わせによって、国家規模、さらには世界規模で過激主義の波を引き起こす可能性があります。仮想世界は現実生活に深刻な影響を及ぼし、ますます制御不能になっています。

Công Luận•13/11/2025

ヘイト煽動アルゴリズム

ソーシャルメディアのアルゴリズムは、もはや娯楽的なコンテンツを提案するだけでなく、ヘイトスピーチや過激思想を増幅させる役割も担っている。国連事務総長アントニオ・グテーレスは、一部のソーシャルメディアプラットフォームがヘイトスピーチや偽情報で溢れかえった「有害なゴミ捨て場」と化し、過激主義の蔓延を助長していると警告した。

現実世界の研究では、推奨アルゴリズムがわずか数日で問題を悪化させる可能性があることが示されています。例えば、英国の調査では、TikTokのアルゴリズムによって、女性蔑視的なコンテンツの推奨がわずか5日間で13%から56%へと4倍に増加したことが明らかになりました。

研究者らは、アルゴリズムが自動的にユーザーの弱点（孤独感、制御不能、憎悪など）をターゲットにし、過激なコンテンツを魅力的な「エンターテイメント」に変えて視聴者を引き付けると説明している。

現在、ソーシャルメディアでは、些細な情報や根拠のない噂でさえ、容易に暴力の引き金となり得ます。その典型的な例が、2024年に英国で発生した暴動です。サウスポートでの襲撃事件後、容疑者がイスラム教徒あるいは難民であるという虚偽の噂が、反イスラム教や反移民の言葉とともにソーシャルメディア上で急速に拡散しました。米国会計検査院（GAO）の2024年の報告書によると、インターネット利用者の約3分の1がオンラインでヘイトスピーチにさらされています。
特に、アジア、アフリカ、ラテンアメリカなどさまざまな国で最近起きた一連の深刻な抗議活動や、Z世代や学生による暴動はすべてソーシャルメディアのプラットフォーム上で開始、扇動されたもので、ほとんど同じシナリオ、つまり、ある問題を利用して社会全体を扇動するというシナリオが採用されている。

彼は征服した — AIソフトウェアと増幅アルゴリズムは、仮想世界と現実世界の両方を操作している。イラスト：ナフェッツ

世界の大半は「幻想」に浸っている

AIの爆発的な普及により、事態は制御不能になりつつあります。ほぼ誰もが、かつてない規模とスピードで「フェイクニュース工場」を作り上げることができるのです。GPT、Claude、LLaMAといったAIモデルは、歪曲された記事、画像、動画を瞬時に自動生成できます。AIボットシステムは、数千もの投稿やコメントを同時に作成・共有し、フェイクニュースや有害なニュースをオンライン上の「トレンド」へと変貌させています。

米国のRIT大学の研究では、「AIはあらゆる種類の誤情報を非常に速く増幅させた…AIボットは、誤情報の作成に人間に依存する必要がないため、こうしたコンテンツをインターネット上に拡散することができる」と主張されています。

今日では、AIツールに月額数十ドルを払うだけで、音声、写真、動画など、あらゆるものの偽画像や動画を何千枚も作成できます。その洗練度と蔓延ぶりはあまりにも高く、誰もが心の奥底で「ソーシャルメディアで目にするものはAIが生成したものなのだろうか？」と疑問を抱いています。

しかし皮肉なことに、世界のほとんどの人々が毎日何時間もその「仮想」世界に浸り、「中毒」のように楽しんでいるのです。Digital 2025レポートによると、約52億から56億人がソーシャルネットワークを利用しており、これは世界人口の64%に相当します。そして、一人当たりのソーシャルネットワーク利用時間は1日平均2時間20分程度で推移しています。

「原子」爆弾を管理する必要性

フェイクニュースや偽情報がますます安価かつ危険なペースで生み出されるにつれ、インターネット上のコンテンツの管理はほぼ人間の手に負えなくなっています。キングス・カレッジ・ロンドン（英国）の技術専門家、ルカス・オレニク氏は、「フェイクニュースの生産工場は毎月、より安価になり、より巧妙になり、より検知が困難になっている」と述べています。

一方、2024年のRANDの調査では、AIが偽のソーシャルメディアアカウントで「インターネットを満たす」可能性は明らかであり、何らかのひねりを加えなければほぼ避けられないと指摘されています。

核技術はかつて人類の偉大な発明であり、ソーシャルメディアも同様でした。しかし、制御を怠れば、大惨事を引き起こす可能性があります。同様に、ソーシャルメディア、AI、そして増幅アルゴリズムが暴走すれば、サイバー空間で「原子爆弾」を起爆させ、現実世界を破壊するほどの威力を持つ可能性があります。

出典: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html