AIを悪用した企業は「弾丸を浴びる」

Duolingoは新しいAIファーストモデルに対して否定的なフィードバックを受けている。写真： Unsplash

ChatGPTは約3年前のローンチ以来、AIブームを巻き起こし、企業が自社の製品やサービスにAI技術を導入するきっかけとなっています。多くの企業は、AIがコストの最適化、効率性の向上、さらにはワークフローの抜本的な改革に役立ったと考えています。

しかし、人工知能の活用は非常にデリケートな問題であり、適切に行われなければ、企業イメージに大きなダメージを与える可能性があります。多くの影響力のある企業が、AIを制御不能に悪用したとして世論から批判を受けています。これは、ユーザーの倫理観がますます厳しくなっていることを示しています。

AI統合が裏目に出る場合

1週間以上前、世界的に人気の語学学習アプリ「Duolingo」はソーシャルメディアのコンテンツを全て削除し、通常のキャラクターを、フードを羽織った反骨精神あふれる三つ目のフクロウに置き換えました。5月26日までに、Duolingoは元の投稿を復元しました。

この動きは、同社が4月にLinkedInの投稿で「AIファースト」モデルへの移行を発表したことを受けてのものだ。投稿には、CEOのルイス・フォン・アン氏から全社に送られたメールのスクリーンショットが掲載されており、今回の移行を2012年のデスクトップからモバイルへの移行と比較している。

しかし、誰もが喜んでいるわけではない。一部のユーザーは、同社が質より量を重視していると批判している。メディア分析会社CARMAによると、この問題に関する世界的な議論では、肯定的な意見が24.5%、否定的な意見が41.1%となっている。

AIの導入がほぼ当たり前となっているゲーム業界でも、意見は分かれています。『フォートナイト』の最近のアップデートでは、ゲームを所有するEpic Gamesが、他のプレイヤーと会話する、完全にAI制御されたダース・ベイダーのキャラクターをテストしました。

ダース・ベイダーがフォートナイトで他のプレイヤーに対して攻撃的な言葉を使う。写真： More SypherPK/YouTube

ゲームのキャラクターをより知的でリアルにすることが目標でした。しかし、スター・ウォーズのキャラクターにインスパイアされたダース・ベイダーは、奇妙な発言をしたり、罵倒したり、他のプレイヤーを侮辱したりするようになりました。これは、AIキャラクターがEpic社の制御外にあることを示し、同社は直ちにバグを修正せざるを得ませんでした。

もう一つの例は、『ワンピース』を制作した有名なアニメスタジオ、東映アニメーションが制作にAIを導入する計画です。Screenrantのレポートによると、初期のスケッチ、着色、背景作成、キャラクターアニメーションにAIが関与する見込みです。

この意図はファンコミュニティから即座に反対を受け、東映のクオリティと独創性を損なうと主張しました。スタジオは報告書を再検討し、依然としてその意図を持っていることを明確にする必要がありましたが、現時点では上記のすべての手順は人間によって行われています。

それでも AI を使いたい場合はどうすればいいでしょうか?

「透明性と顧客中心主義は、効果的なAI戦略を構築するための基盤です」と、Adobe Experience Cloudのシニアバイスプレジデントであるアンジュル・バンブリ氏は述べています。業務でAIを活用しているのであれば、パートナーにもそのことをオープンに伝えるべきです。

ユーザーはプロセスではなく、価値、つまり結果に重点を置きます。AIの活用を強調するのではなく、時間の節約、サービス品質の向上、価格の適正化といった具体的なメリットについて語りましょう。

国民的ゲーム「キャンディークラッシュサーガ」の開発チームは、AIを「物流技術者」として活用していると発表した。同ブランドのゼネラルマネージャーであるトッド・グリーン氏は、AIの助けがなければ、1万8000以上のレベルにおいてプレイヤーに快適な体験を提供し、同時に新たなレベルを開発することはできなかっただろうと述べた。

18,000以上のレベルの品質を確保するにはAIが必要でした。写真： Candy Crush/YouTube

さらに、AIは人間を完全に置き換えるのではなく、補完するものであるべきです。特に共感や創造性が求められる分野においてはなおさらです。ユーザーはAIを嫌っているのではなく、AIに置き換えられたり、騙されたりすることを嫌っているのです。

文化分野においては、AIの活用はゆっくりと進め、フィードバックに耳を傾ける必要があります。ダース・ベイダーやワンピースは、多くの人にとって子供時代の思い出の一部です。AIがそのイメージを破壊すれば、人々は不快感を覚えるでしょう。東映アニメーションのAI活用に対する反対は、アニメ作品の質と本質が失われるのではないかという懸念から生じていると、 Indiatimesは分析しています。

このテクノロジーをカスタマーケア、コンテンツ制作、エクスペリエンスのパーソナライゼーションといった活動に適用する際には、倫理と安全性を最優先に考えることが重要です。また、企業はデータのプライバシー、偏見の回避、公正な運営の確保に関する明確なポリシーを策定する必要があります。

顧客は、AIが競合他社にとってますます重要になっていることを理解しています。しかし、企業はAIを避けるのではなく、物議を醸すマーケティング戦略としてではなく、サービス向上のための自然な流れとして、AIを賢く活用することを学ぶべきです。

出典: https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html