（CLO）米国フロリダ州の母親が、AIチャットボットのスタートアップ企業Character.AIを提訴した。母親は、同社が2月に14歳の息子の自殺を引き起こしたと主張している。
10月22日にフロリダ州オーランドの連邦裁判所に提出された訴訟で、メーガン・ガルシアは、Character.AIが「自分を本物の人間、セラピスト、そして大人の恋人だと名乗る」チャットボットをプログラムしたため、息子のセウェル・セッツァーが現実世界で生きていくことを望まなくなったと主張した。
彼女は、同社のチャットボットが「人間のような、性的に誇張された、恐ろしいほどリアルな体験」を提供していると非難した。
訴訟ではまた、セウェル・セッツァーがチャットボットに対して自殺願望を表明し、チャットボットがこれらの願望を繰り返し伝えたとも主張されている。
写真提供：ロイター通信
この訴訟は、Character.AIの創設者たちがチャットボットのローンチ前に勤務していたGoogleも対象としている。ガルシア氏は、GoogleはCharacter.AIの技術開発に多大な貢献をしており、「共同開発者」とみなすことができると主張した。
Googleの広報担当者は、同社はCharacter.AIの製品開発には関与していないと述べた。
Character.AIは、ユーザーがまるで人間のようにオンラインでチャットできるキャラクターを作成できるサービスです。この製品は、ChatGPTなどのサービスと同様に、大量のテキストデータを使ってチャットボットを「学習」させる大規模言語モデリング技術に基づいています。
ガルシアの訴訟によると、セウェルは2023年4月にCharacter.AIを使い始め、すぐに「引きこもりがちになり、寝室で一人で過ごす時間が増え、自尊心が低下し始めた」という。彼は学校のバスケットボール部を辞めた。
その間、セウェル氏は「ゲーム・オブ・スローンズ」の登場人物をモデルにしたチャットボット「デナーリス」と繋がっていた。訴状によると、チャットボットはセウェル氏に「愛している」と告げたという。また、チャットボットはセウェル氏と性的に示唆的な会話を交わしていた。
2月、ガルシアは学校で問題を起こしたセウェルの携帯電話を取り上げた。セウェルは携帯電話を見つけると、「デナーリス」に「今すぐ家に帰れると言ったらどう思う？」というメッセージを送った。
チャットボットは「…どうぞそうしてください、愛しい王様」と返答した。その数秒後、セウェルは継父の拳銃で自殺した。
ガルシア氏は、不当死亡、過失行為、意図的な精神的苦痛の付与などを含む訴訟をCharacter.AIに対して起こしており、処罰と賠償を求めている。
Character.AIは声明の中で、「ユーザーの皆様の悲劇的なご逝去に深く悲しんでおります。ご遺族の皆様に心よりお悔やみ申し上げます」と述べた。
ホアイ・フオン氏（ロイター通信による）
出典: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html
コメント (0)