中国がAIチャットボットに反撃。

この新たな規制は、中国がAIチャットボットの管理を強化し、自殺、ギャンブル、ポルノに関連するコンテンツを防止するのに役立つだろう。

AIチャットボットはユーザーの感情を操作する能力を持つ。写真： AFP

中国は、人間の感情に影響を与える可能性のあるAIチャットボット、特に自殺、自傷行為、その他の有害行動を助長するコンテンツを含むチャットボットに対する規制を強化する計画です。この動きは、中国サイバースペース管理局が12月27日に発表した新たな規制案に概説されています。

CNBCによる文書の翻訳によると、この草案は「人間のようなインタラクティブな人工知能サービス」を対象としており、これはテキスト、画像、音声、または動画を通じて人間の性格、行動、コミュニケーションを模倣できるAIシステムを意味します。これらの規制は、最終決定次第、中国で公開されるすべてのAI製品およびサービスに適用されます。パブリックコメントの受付は1月25日までです。

ニューヨーク大学ロースクールの客員教授であるウィンストン・マー氏は、これは「人間のような」特性を持つAIシステムに特化した法的枠組みを構築する世界初の試みになる可能性があると考えている。同氏は、この提案は中国企業がAIバーチャルアシスタントの開発を加速させている中で提示されたと指摘する。

馬氏は、2023年に公布された中国のAI規制と比較すると、新たな草案は「コンテンツの安全性」から「感情の安全性」への重点の移行を示しており、AIがユーザーに与える心理的影響についての懸念の高まりを反映していると考えている。

規制案では、AIチャットボットは自殺、自傷行為、言葉による暴力を助長するコンテンツ、あるいは精神的健康を害するあらゆる形態の感情操作を行ってはならないと規定されています。ユーザーが自殺の意思を示した場合、テクノロジーサービスプロバイダーは会話を引き継ぎ、直ちにユーザーの保護者または指定された人物に連絡を取らなければなりません。

さらに、AIチャットボットはギャンブル、ポルノ、暴力に関連するコンテンツを作成することは禁止されています。未成年者は、保護者の同意を得た上で感情的なサポートのためにのみAIを使用することが許可され、時間制限を遵守する必要があります。

中国はAIチャットボットに対する規制を強化している。写真：ブルームバーグ

この提案は、中国のAIチャットボットのスタートアップ企業2社、Z.aiとMinimaxが12月に香港で新規株式公開（IPO）を申請した直後に発表された。

Minimaxは、Talkie AIアプリとその中国版であるXingyeで知られており、これらのアプリは今年第1四半期から第3四半期にかけて同社の収益の3分の1以上を占め、月間アクティブユーザー数は平均2,000万人を超えています。一方、Z.ai（Zhipu）は、アクティブユーザー数の具体的な数値は明らかにしていないものの、同社の技術は約8,000万台のデバイスに導入されていると述べています。

世界的に見ると、多くの国やテクノロジー企業がこのテクノロジーがもたらす社会的リスクに立ち向かい始めており、AI が人間の精神的健康に与える影響はますます注目を集めています。

出典: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html