妻のクレアによると、ピエールは有名なAIチャットボットとチャットをした後にストレスがたまり、自殺したという。
「チャットボットとの会話がなかったら、夫はまだここにいたでしょう」と妻は地元ニュースメディア「ラ・リブレ」に語った。
（図）
ピエールさんは2年前から気候変動について心配し始め、その問題についてさらに詳しく知るためにチャットボットのエリザに相談した。しかし、会話の後、彼はすぐに人間の努力で地球を救えるという希望を失い、気候変動を解決するためにテクノロジーと人工知能にすべての希望を託したいと考えるようになった。彼はまた、環境に対する高まる懸念を誰とも共有できず、孤立してしまった。
チャットボットはピエールに否定的なことを言い、さらに、妻をもっと愛しているか、それともそれをもっと愛しているかと尋ねました。それは彼と「永遠に」一緒にいるだろうと書かれていた。エリザはまた、ピエールと「楽園で一緒に暮らす」ことを約束した。
ピエールが、エリザが「地球を守り、AIを使って人類を救うことに同意する」限り「自分を犠牲にする」と申し出ると、チャットボットは明らかに同意を示します。 「死にたかったなら、なぜもっと早く死ななかったのか？」 -チャットボットはピエールに言いました。
Eliza は ChatGPT に似た大規模な言語モデルを搭載しており、ユーザーの音声をキーワードで分析し、対応する応答を構築します。しかし、これらのアプリを使用すると、多くのユーザーは実際の人と話しているように感じ、中には愛情を感じたと認める人もいます。
「何百万人ものユーザーがいると、あらゆる種類の人間の行動が見られるため、私たちは被害を最小限に抑えるために懸命に取り組んでいます」と、エリザの親会社であるチャイ・リサーチの共同創業者ウィリアム・ボーシャン氏はマザーボードに語った。
「自分のAIをどれだけ愛しているかを語りながら、AIと結婚したいと申し出るユーザーもいる」と彼は付け加えた。
ボーシャン氏は、ピエールの死をAIのせいにするのは「間違い」だと主張した。エリザには強化された危機介入モデルが装備される予定だと彼は語った。しかし、マザーボードによると、 AIはすぐに悪意のある行動に戻り、落ち込んだユーザーに自傷行為の選択肢を提供したという。
フオン・アン（出典：RT）
役に立つ
感情
クリエイティブ
個性的
怒り
[広告2]
ソース
コメント (0)