중국, AI 챗봇에 반격에 나서다.

인공지능 챗봇은 사용자의 감정을 조작할 수 있는 능력을 가지고 있다. 사진: AFP

중국은 인간의 감정에 영향을 미칠 수 있는 인공지능 챗봇, 특히 자살, 자해 또는 기타 유해한 행동을 조장하는 콘텐츠를 제공하는 챗봇에 대한 규제를 강화할 계획입니다. 이러한 조치는 중국 사이버공간관리국이 12월 27일 공개한 새로운 규정 초안에 명시되어 있습니다.

CNBC 가 번역한 문서에 따르면 , 이번 초안은 "인간과 유사한 상호작용형 인공지능 서비스"를 대상으로 하며, 이는 텍스트, 이미지, 오디오 또는 비디오 를 통해 인간의 성격, 행동 및 의사소통을 모방할 수 있는 AI 시스템을 의미합니다. 이 규정은 최종 확정되면 중국에서 공개적으로 제공되는 모든 AI 제품 및 서비스에 적용될 예정입니다. 의견 수렴 기간은 1월 25일까지입니다.

뉴욕대학교(NYU) 로스쿨의 객원교수인 윈스턴 마는 이번 제안이 '인간과 유사한' 특성을 가진 AI 시스템에 특화된 법적 틀을 마련하려는 세계 최초의 시도일 수 있다고 분석했다. 그는 특히 중국 기업들이 AI 가상비서 개발에 박차를 가하고 있는 시점에 이러한 제안이 나왔다는 점을 지적했다.

마 씨는 2023년에 발표된 중국의 AI 규정과 비교했을 때, 이번 새로운 초안은 "콘텐츠 안전"에서 "정서적 안전"으로 초점이 옮겨갔으며, 이는 AI가 사용자에게 미치는 심리적 영향에 대한 우려가 커지고 있음을 반영한다고 분석했습니다.

규정 초안에 따르면 AI 챗봇은 자살, 자해 또는 언어 폭력을 조장하는 콘텐츠나 정신 건강에 해로운 어떠한 형태의 감정 조작도 해서는 안 됩니다. 사용자가 자살 의사를 표현하는 경우, 기술 서비스 제공업체는 담당자가 대화를 인계받아 즉시 사용자의 보호자 또는 지정된 사람에게 연락해야 합니다.

또한, AI 챗봇은 도박, 음란물 또는 폭력과 관련된 콘텐츠를 제작하는 것이 금지되어 있습니다. 미성년자는 보호자의 동의를 얻어 정서적 지원 목적으로만 AI를 사용할 수 있으며, 사용 시간 제한을 준수해야 합니다.

AI 챗봇, 형제 1

중국이 인공지능 챗봇에 대한 규제를 강화하고 있다. 사진: 블룸버그 .

이번 제안은 중국의 주요 AI 챗봇 스타트업인 Z.ai와 Minimax가 지난 12월 홍콩 증시에 기업공개(IPO)를 신청한 직후 발표되었습니다.

미니맥스는 Talkie AI 앱과 국내 버전인 Xingye로 유명하며, 이 두 앱은 올해 첫 3분기 동안 회사 매출의 3분의 1 이상을 차지했고, 월평균 활성 사용자 수는 2천만 명이 넘습니다. 한편, Z.ai(Zhipu)는 자사 기술이 약 8천만 대의 기기에 탑재되었다고 밝혔지만, 구체적인 활성 사용자 수는 공개하지 않았습니다.

세계적인 맥락에서 인공지능이 인간의 정신 건강에 미치는 영향에 대한 관심이 점점 높아지고 있으며, 많은 국가와 기술 기업들이 이 기술이 제기하는 사회적 위험에 직면하기 시작했습니다.

출처: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html