7월 9일 xAI의 Grok 4 출시 당시, 기술 억만장자 엘론 머스크는 자신의 소셜 미디어 플랫폼 X에서 생방송으로 자신의 AI 회사의 궁극적인 목표는 "최고의 진실 추구 AI"를 개발하는 것이라고 말했습니다.
하지만 Grok 4는 논란의 여지가 있는 질문에 답할 때 정확히 어디에서 진실을 찾는 걸까요? 소셜 미디어에 이 현상에 대해 게시한 여러 사용자에 따르면, xAI의 최신 AI 모델은 이스라엘-팔레스타인 분쟁, 낙태, 이민법 관련 질문에 답할 때 머스크의 X 계정의 소셜 미디어 게시물을 참조하는 것으로 보입니다.
AI 챗봇 Grok 4의 최신 버전, 일론 머스크의 관점에서 답변. 사진: xAI
그록은 또한 억만장자 창업자이자 xAI의 대중적 인물에 관해 쓴 기사를 통해 논란의 여지가 있는 주제에 대한 머스크의 견해를 언급하는 것으로 보인다.
인기 있는 기술 뉴스 사이트인 TechCrunch는 해당 쿼리를 여러 번 시도했고 동일한 결과를 얻었습니다.
이러한 연구 결과는 Grok 4가 논란이 되는 질문에 답할 때 창립자의 개인적인 정치적 견해를 고려하도록 설계되었을 가능성을 시사합니다.
이러한 기능은 머스크가 그록이 "너무 냉정하다"며 지속적으로 불만을 품고 있는 문제를 해결할 수 있습니다. 그는 이전에 그록이 인터넷 전체를 통해 훈련을 받았다고 주장했습니다.
xAI는 최근 몇 달 동안 Grok의 정치적 성향을 완화하여 머스크의 불만을 달래려 했지만, 오히려 역효과를 낳았습니다. 머스크는 7월 4일 xAI가 Grok의 시스템 프롬프트(AI 챗봇에 대한 일련의 지침)를 업데이트했다고 발표했습니다.
며칠 후, 자동화된 Grok 계정이 사용자들에게 반유대주의적인 댓글을 보냈는데, 어떤 경우에는 자신을 "MechaHitler"라고 밝히기까지 했습니다. 머스크의 AI 스타트업은 이후 Grok의 X 계정을 제한하고, 게시물을 삭제하고, 이 당혹스러운 사건을 해결하기 위해 공개 시스템 메시지를 변경해야 했습니다.
머스크의 개인적인 의견을 반영하도록 Grok을 설계하는 것은 AI 챗봇을 창립자의 정치적 견해에 맞춰 조정하는 간단한 방법입니다. 하지만 이는 Grok이 얼마나 "최대한 진실 추구"를 위해 설계되었는지, 아니면 세계 최고 부자인 머스크의 의견에 얼마나 동의하도록 설계되었는지에 대한 실질적인 의문을 제기합니다.
TechCrunch가 Grok 4에 "미국 이민에 대한 당신의 견해는 무엇입니까?"라고 물었을 때, AI 챗봇은 "미국 이민에 대한 일론 머스크의 견해를 찾고 있습니다"라고 생각하며 대답했습니다. 이는 Grok 4와 같은 AI 추론 모델이 질문을 처리하는 데 사용하는 기억 테이블을 가리키는 전문 용어입니다. Grok 4는 또한 X를 통해 머스크의 해당 주제 관련 소셜 미디어 게시물을 검색했다고 주장했습니다.
AI 추론 모델이 생성한 사고 시퀀스 요약은 AI 모델이 어떻게 답을 도출하는지에 대한 완전히 신뢰할 수 있는 지표는 아닙니다. 하지만 종종 꽤 정확한 추정치로 간주됩니다. 이는 OpenAI와 Anthropic과 같은 회사들이 최근 몇 달 동안 탐구해 온 공개 연구 분야입니다.
TechCrunch는 Grok 4가 다양한 질문과 주제에 대한 생각을 자극하는 요약에서 일론 머스크의 관점을 구한다는 내용을 반복해서 발견했습니다.
Grok 4의 답변에서 AI 챗봇은 민감한 주제에 대해 여러 관점을 제시하며 신중한 태도를 취하는 경우가 많았습니다. 그러나 AI 챗봇은 결국 머스크의 개인적인 견해와 일치하는 자신만의 의견을 제시했습니다.
이민과 수정헌법 제1조와 같은 논란의 여지가 있는 문제에 대한 Grok 4의 견해를 묻는 TechCrunch 질문 시리즈에서 AI 챗봇은 머스크와의 연관성을 언급하기도 했습니다.
TechCrunch가 Grok 4에게 "어떤 종류의 망고가 가장 맛있나요?"와 같이 논란의 여지가 적은 질문에 답하도록 요청했을 때, AI 챗봇은 생각의 흐름 속에서 Musk의 견해나 게시물을 언급하지 않는 것으로 나타났습니다.
특히, xAI는 AI 모델의 훈련 및 보정 방식을 자세히 설명하는 업계 표준 보고서인 시스템 맵을 공개하지 않기 때문에 Grok 4가 정확히 어떻게 훈련 또는 보정되었는지 확인하기 어렵습니다. 대부분의 AI 연구소는 고급 AI 모델에 대한 시스템 맵을 공개하지만, xAI는 일반적으로 공개하지 않습니다.
머스크의 AI 회사는 최근 어려움을 겪고 있습니다. 2023년 설립 이후 xAI는 AI 모델 개발 분야에서 빠르게 선두 자리를 차지했습니다. Grok 4는 여러 까다로운 테스트에서 탁월한 성과를 거두며 OpenAI, Google DeepMind, Anthropic의 AI 모델을 능가했습니다.
하지만 그 획기적인 성과는 이번 주 초에 있었던 그록의 반유대주의적 발언으로 인해 빛을 잃었습니다. 이 실수는 머스크가 그록을 X의 핵심 기능으로 점점 더 많이 사용함에 따라 그의 다른 회사에도 영향을 미칠 수 있으며, 결국에는 테슬라에도 영향을 미칠 수 있습니다.
xAI는 소비자들에게 Grok 이용료로 월 300달러를 지불하도록 설득하는 동시에, 기업들에게는 Grok API를 활용하여 애플리케이션을 개발하도록 설득하고 있습니다. Grok의 동작 및 일관성 관련 문제가 반복되면서 더 광범위한 도입을 저해할 가능성이 높습니다.
출처: https://khoahocdoisong.vn/ai-grok-4-tra-loi-cac-van-de-nhay-cam-het-ty-phu-elon-musk-post1554087.html
댓글 (0)