OpenAIは、米国の州から初めて訴訟を起こされた。

6月1日、フロリダ州はOpenAIとそのCEOであるサム・アルトマン氏に対し、同社がChatGPTプラットフォームのセキュリティについて虚偽の説明を行ったとして訴訟を起こした。

訴訟によると、このチャットボットは暴力や自傷行為に関連するコンテンツを通じて、若いユーザーに害を与えたという。

OpenAIのCEO、サム・アルトマン氏。写真：ロイター

これは米国で初めてOpenAIに対して法的措置を取った州である。フロリダ州司法長官のジェームズ・ウートマイヤー氏は、フロリダ州裁判所に訴訟を起こした。

訴訟では、昨年タラハシーの大学で発生した銃撃事件や、他の州で発生した多数の事件が挙げられており、これらの事件において、ChatGPTが容疑者に暴力行為を実行するための情報を提供したとされている。

ウートマイヤー氏は最近の記者会見で、フロリダ州がアルトマンCEOを訴訟の被告に指名したのは、彼が州が最も有害だと考えるChatGPTの機能の普及において中心的な役割を果たしたためだと述べた。

「人々が傷つけられ、親たちが騙されている。彼らはその責任を負わなければならない」とウートマイヤー氏は述べた。

フロリダ州は数十億ドル規模の損害賠償を求めており、さらに裁判所に対し、OpenAIが自社のプラットフォームで若年ユーザーとどのようにやり取りするかを変更するよう強制することを求めている。

OpenAIは、この訴訟に対してまだ公式な回答を発表していない。

OpenAIは以前、同社のモデルは「暴力行為を著しく助長する可能性のある」要求を拒否するように訓練されており、会話から「他者への危害の差し迫った、かつ信憑性の高いリスク」が示された場合は法執行機関に通知すると述べていた。

同社はまた、境界性パーソナリティ障害の症例を評価する際には、精神保健の専門家を関与させていると述べた。

今回の訴訟は、AI開発企業に対する訴訟が急増している中で起こされたもので、これらの企業は、チャットボットとのやり取りが自傷行為、精神衛生上の問題、または暴力につながる可能性を防止できなかったと主張している。

OpenAIは、米国とカナダで発生した銃乱射事件に関連した別の訴訟にも直面している。この訴訟では、犯人がChatGPTを使って攻撃を計画したことを示唆する証拠があったにもかかわらず、同社が適切な対応を取らなかったと原告側が主張している。

出典: https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html