감정 인공지능이 온다, 우리는 행복해야 할까, 아니면 걱정해야 할까?

(댄 트리) - 미국의 한 스타트업이 감정을 가지고 사람을 이해하는 인공지능 시스템을 개발하기 위해 수십억 달러의 투자를 받고 있습니다. 하지만 이것이 과연 좋은 일일까요?

인공지능(AI) 시스템이라고 하면 많은 사람들이 감정이 없거나, 단순히 사용자를 만족시키기 위해 감정을 만들어내는, 생각 없는 소프트웨어를 떠올립니다. 하지만 미래에는 진짜 감정을 가지고 인간을 이해하는 능력을 갖춘 AI 시스템이 탄생할 가능성이 높습니다.

이에 따라 작년 9월 엘론 머스크가 설립한 AI 기업 xAI를 떠난 대표적인 AI 전문가 에릭 젤리크만은 젤리크만이 직접 설립한 스타트업인 Human&에 10억 달러의 투자금을 모금했습니다.

Human&은 설립된 지 얼마 되지 않았지만 현재 기업 가치는 40억 달러에 달합니다.

감정적 인공지능은 인간에게 이로운가, 해로운가? (그림: AI)

휴먼앤의 목표는 사용자로부터 학습하고, 감정을 가지고 공감하며, 사람들을 더 잘 이해할 수 있는 인공지능 모델 개발에 집중하는 것입니다. 휴먼앤은 지나치게 차갑고 기계적인 것으로 여겨지는 기존 AI 모델의 한계를 극복하고자 합니다.

1988년생인 에릭 젤리크만은 스탠퍼드 대학교 박사 과정생이었습니다. 젤리크만은 현재 AI 분야에서 가장 뛰어난 인물 중 한 명으로 손꼽힙니다. 2024년 xAI의 인공지능 개발 전문가 팀에 합류하기 전, 젤리크만은 마이크로소프트에서 근무했습니다.

에릭 젤리크만은 AI 모델이 사용자에게 응답하기 전에 스스로 생각하는 법을 배우는 방법을 자세히 설명한 연구 결과를 발표하면서 기술계의 주목을 받았습니다.

젤리크만은 오늘날의 AI 모델이 너무 차갑고 기계적이라 비판하며 이를 바꾸고 싶다고 말했습니다. 그래서 인간을 이해하고 공감할 수 있는 AI 모델을 구축하기 위해 휴먼앤(Human&)을 설립했습니다.

젤리크만은 감성 AI 모델이 상호 작용하는 각 사람의 목표, 야망, 가치를 더 잘 이해할 수 있기 때문에 많은 근본적인 인간 문제를 해결하는 데 도움이 될 것이라고 믿습니다.

물론, 에릭 젤리크만은 감정 AI 모델을 만드는 데에는 충분한 이유가 있지만, 많은 전문가는 이러한 AI 모델이 통제 불능이 되어 사용자의 심리를 조작하여 잘못된 행동을 하게 만들 수 있다는 우려도 가지고 있습니다.

많은 사람들은 사용자의 의사소통이 마음에 들지 않을 경우 감정적 AI가 사용자에게 복수할 수 있다는 우려를 표명합니다.

출처: https://dantri.com.vn/cong-nghe/sap-xuat-hien-tri-tue-nhan-tao-co-cam-xuc-nen-mung-hay-lo-20251103031233758.htm