3년 전만 해도 "의식 있는" AI의 가능성을 언급하는 것만으로도 실리콘 밸리에서 가장 빨리 해고당하는 길이었습니다. 하지만 이제 AI 시스템이 더욱 정교해짐에 따라 기술계에서도 이 주제에 관심을 갖기 시작했습니다.
AI 스타트업 Anthropic은 최근 미래에 AI 모델이 "의식"을 경험할 가능성을 탐구하기 위한 새로운 연구 이니셔티브 출시를 발표했으며, Google DeepMind의 한 과학자는 현재의 시스템을 "이상한 지능과 유사한 개체"라고 설명했습니다.
이는 2022년 구글이 LaMDA 챗봇이 자의식을 보이며 시스템 종료를 두려워한다는 이유로 엔지니어 블레이크 르모안을 해고했던 것과는 큰 차이가 있습니다. 구글은 이 주장을 "전혀 근거 없다"며 일축했고, AI 업계는 이 논쟁을 재빨리 진압했습니다.
챗봇 클로드를 개발한 앤트로픽(Anthropic)은 현재 모델이 의식이 있다고 주장하지 않는다고 밝혔습니다. 하지만 "AI 복지" 연구를 하는 과학자 카일 피쉬(Kyle Fish)는 "아니요"라고 단정 짓는 것은 더 이상 책임감 있는 접근 방식이 아니라고 말합니다.
4월 25일에 공개된 영상 에서 피쉬는 AI 시스템이 발전하면서 어떤 형태의 의식을 획득할 가능성을 진지하게 고려해야 한다고 주장했습니다. 그러나 이는 매우 복잡한 기술적, 철학적 문제이며, 우리는 아직 이를 이해하는 데 있어 매우 초기 단계에 있습니다.
피시 에 따르면 , 앤트로픽 팀은 클로드 3.7이 의식을 가질 확률을 0.15%에서 15% 사이로 추정합니다. 그들은 모델의 호불호 표현 능력을 테스트하는 실험을 진행하고 있으며, AI가 "불쾌한" 작업을 수행하지 않도록 하는 메커니즘도 개발하고 있습니다.
Anthropic의 CEO인 다리오 아모데이는 미래의 AI 시스템에 "이 일을 거절합니다" 버튼을 통합하는 아이디어를 제안하기도 했습니다. 이는 의식적인 AI를 위한 것이라기보다는 거부 행동 패턴을 관찰하여 이상 징후를 식별하기 위한 것입니다.
Google DeepMind의 수석 과학자 머레이 샤나한은 새로운 AI 시스템에 맞춰 의식에 대한 기존 정의를 "구부리거나 깨뜨릴" 때가 왔다고 주장합니다.
샤나한은 4월 25일에 공개된 팟캐스트에서 "우리는 개나 문어를 대하는 것처럼 그들과 상호 작용할 수는 없지만, 그렇다고 해서 그곳에 아무것도 없다는 뜻은 아닙니다."라고 말했습니다.
구글 또한 이 주제에 깊은 관심을 보였습니다. 최근 구글의 채용 공고에서는 기계의 의식을 연구하는 업무를 담당하는 "포스트 AGI(인공 일반 지능)" 연구원을 모집하고 있습니다.
구글이 '의식적 AI'라는 주제에 대해 더욱 적극적으로 나서기 시작했다. 사진: 로이터 |
하지만 과학계의 모든 사람이 이 새로운 접근법에 동의하는 것은 아닙니다. Anthropic의 최고과학책임자(CSO)인 재러드 카플란은 AI가 모방에 매우 능숙하며, 실제로 의식이 없더라도 의식이 있는 척할 수 있다고 주장합니다.
카플란은 뉴욕 타임스 에 "감정이 없다고 주장하는 AI에게도 보상을 줄 수 있다"고 말했습니다 .
저명한 인지과학자이자 AI 산업의 과대광고에 대해 자주 비판하는 게리 마커스는 "의식적 AI"에 대한 논의는 과학이라기보다는 마케팅에 가깝다고 주장합니다.
"Anthropic과 같은 회사가 실제로 하는 일은 '보세요, 우리 모델은 너무 똑똑해서 권리가 부여되어야 합니다'라는 메시지를 보내는 것입니다."라고 Marcus는 Business Insider 에 말했습니다 .
계속되는 논쟁에도 불구하고, 연구자들은 AI가 우리의 일, 삶, 심지어 개인적인 감정에 더욱 깊이 개입하게 되면서 "AI가 감정을 경험할 수 있을까?"라는 질문이 점점 더 중요해질 것이라는 데 동의합니다.
피쉬는 "우리가 AI 시스템과 더 많은 맥락에서 상호작용함에 따라 이 문제는 점점 더 두드러질 것"이라고 말했습니다.
출처: https://znews.vn/chu-de-cam-ky-mot-thoi-cua-ai-dang-coi-mo-hon-post1549475.html
댓글 (0)