感情人工知能の到来、私たちは喜ぶべきか、それとも心配すべきか？

(ダン・トリ) - アメリカのスタートアップ企業が、感情を持ち、人間を理解する人工知能システムの開発に数十億ドルの投資を受けている。しかし、これは良いことなのだろうか？

人工知能（AI）システムというと、多くの人はすぐに感情を持たない、あるいはユーザーを喜ばせるために感情を作り出すだけの、心のないソフトウェアを思い浮かべます。しかし、将来的には、真の感情を持ち、人間を理解する能力を持つAIシステムが誕生する可能性が高いでしょう。

それに応じて、昨年9月にxAI（イーロン・マスク氏が設立したAI企業）を去った第一人者のAI専門家、エリック・ゼリクマン氏が、ゼリクマン氏自身が設立したスタートアップ企業Human&に10億ドルの投資資金を調達した。

Human& は設立されてまだ間もないにも関わらず、現在では評価額が 40 億米ドルに達しています。

感情型人工知能は人類に利益をもたらすのか、それとも害を及ぼすのか？（図：AI）。

Human&の目標は、ユーザーから学習し、感情を持ち、共感を示し、人々をより深く理解できる人工知能モデルの開発に注力することです。Human&は、冷たくて機械的すぎると考えられている現在のAIモデルの限界を克服したいと考えています。

エリック・ゼリクマンは1988年生まれで、スタンフォード大学の博士課程に在籍していました。ゼリクマンは、今日のAI分野における最も著名な人物の一人とされています。2024年にxAIの人工知能開発専門家チームに加わる前は、マイクロソフトに勤務していました。

エリック・ゼリクマン氏は、AIモデルがユーザーに応答する前に自ら考えることを学習する方法を詳述した研究を発表し、テクノロジー業界の注目を集めた。

ゼリクマン氏はかつて、今日のAIモデルは冷たく機械的すぎると述べ、それを変えたいと考えていました。そこで、人間を理解し共感できるAIモデルを構築するために、Human&を設立しました。

ゼリクマン氏は、感情 AI モデルは対話する各人の目標、野心、価値観をより深く理解できるため、多くの基本的な人間の問題を解決するのに役立つと考えています。

もちろん、エリック・ゼリクマン氏が感情的な AI モデルの作成を目指すのには十分な理由があるが、多くの専門家は、これらの AI モデルが制御不能になり、ユーザーの心理を操作して誤った行動に導く可能性があることも懸念している。

また、感情的なAIが、ユーザーのコミュニケーションに不快感を覚えた場合、ユーザーに復讐する可能性があると懸念する人も多くいます。

出典: https://dantri.com.vn/cong-nghe/sap-xuat-hien-tri-tue-nhan-tao-co-cam-xuc-nen-mung-hay-lo-20251103031233758.htm