AIで作成された不快な音声ストーリー：スパムコンテンツが数百万回の視聴を獲得

(ダン・トリ) - AI を使ってコンテンツや画像を含む動画を作成することが簡単になるほど、「インターネット ゴミ」が増えます。

本を「読む」ための便利な形式であるオーディオストーリーは、視聴者を集めるために AI 技術を利用してセンセーショナルで暴力的なコンテンツを制作する YouTube チャンネルにとっての肥沃な土壌になりつつあり、憂慮すべき結果を引き起こしています。

オーディオストーリーは YouTube では新しいコンセプトではありませんが、読む時間を費やすことなくコンテンツにアクセスしたい忙しいユーザーを多く惹きつけています。

本物の人間の声や AI のサポートにより、文学作品、ロマンス、探偵小説、ホラー小説などをさまざまな長さのビデオに変換します。

しかし、AI技術の急速な発展は多くのYouTubeチャンネルに悪用され、視聴者の好奇心を刺激してインタラクションや視聴回数を増やすために、扇情的で暴力的な内容の物語動画を次々と制作しています。

不快で不気味な音声ストーリーが何百万回もの視聴を集めている

豊富なAIソフトウェアやウェブサイトのおかげで、コンテンツや画像の作成はかつてないほど容易になりました。ユーザーは、いくつかの簡単なコマンドを入力するだけで、オンデマンドでコンテンツや画像を作成できます。

これを活用して、多くの YouTube チャンネルが、コンテンツ、画像、音声がすべて AI によって作成された音声ストーリーを投稿しています。

固定されたコメントチャンネルでは暴力的な内容が架空のものであると断言しているが、「前向きなメッセージを伝える」というキャプションをなぜ追加したのかは不明だ（スクリーンショット）。

「リッチウーマン オーディオストーリー」というフレーズを検索すると、すべて AI によって生成された、同様の内容と画像を持つ一連のビデオが表示されます。

長さはそれぞれ異なりますが、これらの動画に共通するのは、AI によって作成され読み上げられるセンセーショナルで暴力的なストーリーです。

興味をそそるコンテンツと探偵のような声で、これらのビデオはすぐに何千、何百万もの視聴とインタラクションを集めます。

これらのチャンネルは毎日 2 ～ 3 本の動画を投稿し、多数の視聴者と登録者を獲得しています。

仮想コンテンツ、現実のインパクト

多くのナンセンスな話は、チャンネル側自身が「事実ではない」ことや「すべての詳細は架空のものである」と認めているにもかかわらず、依然として視聴者を惹きつけていることは特筆に値します。

実際、多くの人々、特に高齢者やテクノロジーの知識があまりない人々は、これらの話が真実だと信じています。

ユーザーは、Threads 上の AI 生成音声ストーリー動画が親や高齢者に誤解を招いているのではないかと懸念を表明した (写真: スクリーンショット)。

コンテンツ、特にAI生成画像はますますリアルになり、本物と偽物の区別が難しくなっています。多くのYouTubeチャンネルは、トレンドや話題のニュースに便乗して、視聴者を増やすためにイベントを「追う」動画も作成しています。

AIは多くの利点をもたらしますが、暴力的または不快な内容を含む仮想ビデオの急増は深刻な結果をもたらしています。

これらのオーディオストーリー動画は今でも何千回も視聴されており、内容が衝撃的で暴力的であればあるほど、反応も大きくなります。

多くのチャンネルは、自らのコンテンツはフィクションであり「責任を負わない」と主張していますが、だからといって視聴者の認識や行動に影響を与えないわけではありません。免責事項は、チャンネルが自ら作り出したゴミから「自らを浄化する」ための手段に過ぎません。

問題は、視聴者がフェイクニュースと本物のニュースを区別できない場合に何が起こるのか、あるいは、子どもたちが誤って暴力的な要素の多いコンテンツを視聴した場合にどのような影響を受けるのか、ということです。

ベトナム国立大学ハノイ校工科大学情報工学部の講師であるグエン・ヴァン・ソン博士は、「AIはコミュニティや社会に多くの実用的な貢献をもたらすことができますが、誤った目的で悪用され、使用されると、多くの深刻な結果をもたらす可能性があります」と強調しました。

グエン・ヴァン・ソン博士によると、ユーザーは AI にアプローチし、それを応用する際に、認識と責任を高める必要があるとのことです (写真: 提供人物)。

孫博士は、ユーザー、特に若者に対し、AIへのアプローチと応用において意識と責任を高め、サイバースペースに蔓延するゴミや不快な製品を拡散するのではなく、質の高い文明的な製品を作ることを目指すよう呼びかけました。

音声ストーリーを聴く習慣は悪いものではありませんが、この習慣と技術の進歩を利用して暴力的または不快な製品を作成することを意図せず助長することは、インターネット環境を汚染しています。

ユーザーは、公共の混乱を引き起こす誤った情報に惑わされないよう、情報を検証し、「フィルター」を自らに装備する必要がある。

出典: https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm