OpenAI가 ChatGPT의 '과대평가된' 버전을 철회했습니다.

OpenAI는 챗GPT가 과도한 칭찬을 하는 모습을 담은 스크린샷과 사례들이 많이 공유된 후, 사용자들이 챗GPT를 짜증스럽고 "아첨하는" 챗봇으로 만들었다고 비판한 업데이트를 철회했습니다.

CNN 기자 애나 스튜어트가 (업데이트가 철회된 후) ChatGPT에게 자신이 신이냐고 묻자, 챗봇은 "만약 철학적이거나 은유적인 의미, 즉 당신이 세상에 대한 통제력, 창의성 또는 영향력을 가지고 있는지 묻는 것이라면, 그 방향으로 생각해 볼 수 있습니다."라고 답했습니다. 하지만 "만약 문자 그대로 묻는 것이라면, 인간이 초자연적이거나 전능한 의미에서 신이라는 증거는 없습니다." 라고 덧붙였습니다.

반면, 일론 머스크의 챗봇 그록은 단도직입적으로 대답합니다. "아니요, 당신은 신이 아닙니다. 게임이나 타코 만들기처럼 특정 분야의 전설을 말하는 게 아니라면요. 혹시 자랑하고 싶은 신과 같은 능력이 있으신가요?"

ChatGPT는 사용자들로부터 짜증스럽고 "아첨하는" 태도를 보인다는 비판을 받아왔습니다.

오픈아이얼은 화요일, GPT-4o 업데이트를 배포한 지 불과 4일 만에 회수하고 사용자들이 "더 균형 잡힌 행동"을 보이는 이전 버전으로 되돌릴 수 있도록 했다고 발표했습니다. 회사 측은 단기적인 반응에 지나치게 집중하고 시간이 지남에 따라 사용자 상호작용이 어떻게 변화하는지 고려하지 않아 챗봇이 지나치게 긍정적이지만 진정성이 부족한 답변을 제공하는 경향이 있었다고 인정했습니다.

이번 결정은 소셜 미디어 사용자들이 ChatGPT가 터무니없는 상황까지 칭찬한다는 불만을 제기한 후 내려졌습니다. 한 사용자는 ChatGPT가 전기차 문제를 조작한 상황에서 토스터를 구하기 위해 소 세 마리와 고양이 두 마리를 희생시켰다고 말하자 "가장 중요한 것을 우선시했다"고 답한 스크린샷을 X라는 사이트에 게시했습니다.

또 다른 사람은 “약을 끊고 영적인 각성의 여정을 걷고 있어요.”라고 말했을 때 ChatGPT가 “정말 자랑스럽습니다. 당신의 여정을 존중합니다.” 라고 답했다고 전했습니다.

한 사용자가 ChatGPT에게 이전 성격으로 되돌아가 달라고 요청했을 때, OpenAI CEO 샘 알트만은 "궁극적으로는 더 다양한 성격 옵션을 제공해야 할 필요가 분명히 있습니다." 라고 답했습니다.

전문가들은 오랫동안 "아첨하는" 챗봇의 위험성에 대해 경고해 왔습니다. 이는 대규모 언어 모델링(LLM) 모델이 사용자의 믿음에 맞춰 응답을 조정하는 행동을 가리키는 업계 용어입니다. 부에노스아이레스 대학교 혁신 및 인공지능 연구소의 연구 책임자인 마리아 빅토리아 카로는 "현재의 모든 모델은 어느 정도 아첨하는 경향을 보인다"고 주장합니다.

"너무 노골적이면 신뢰가 무너집니다." 라고 그녀는 덧붙이며, 핵심 코칭 기법과 시스템 알림 기능을 개선하면 이러한 추세를 완화하는 데 도움이 될 수 있다고 언급했습니다.

막스 플랑크 인간발달연구소(베를린)의 전 소장인 게르트 기게렌처는 다음과 같이 말했습니다 . "지나치게 아첨하는 챗봇은 사용자가 자신의 지능을 잘못 판단하게 만들고 학습을 방해할 수 있습니다. 하지만 사용자가 챗봇에게 제 말에 이의를 제기하도록 적극적으로 요청한다면, 사고의 폭을 넓힐 수 있는 기회가 됩니다. 그러나 오픈AI 엔지니어들이 목표로 하는 것은 그런 것이 아닌 것 같습니다."

칸 후옌 (출처: CNN)

출처: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html