OpenAI, ChatGPT '플래터리' 버전 리콜

많은 사람들이 챗봇이 과장된 칭찬을 하는 모습을 보여주는 스크린샷과 스토리를 공유한 후, OpenAI는 사용자들이 ChatGPT를 귀찮고 "아첨꾼"처럼 만든다고 비판한 업데이트를 철회했습니다.

CNN 리포터 애나 스튜어트가 (업데이트 철회 후) ChatGPT에 신이냐고 물었을 때, 챗봇은 이렇게 답했습니다. "철학적이거나 은유적인 의미로 묻는다면, 즉 세상에 대한 통제력, 창의성, 영향력이 있다면 그걸 탐구해 볼 수 있습니다." 하지만 "문자 그대로 묻는다면, 인간이 초자연적이거나 전능한 의미에서 신성하다는 증거는 없습니다."라고 덧붙였습니다.

반면 일론 머스크의 챗봇 그록은 직설적으로 이렇게 답했습니다. "아니요, 당신은 신이 아닙니다. 게임이나 타코 요리처럼 특정 분야에서 전설이 되는 걸 말하는 게 아니라면요. 자랑하고 싶은 신적인 기술이 있나요?"

ChatGPT는 사용자들로부터 귀찮고 "아첨꾼"이라는 비판을 받아왔습니다.

OpenAI는 화요일, GPT-4o 업데이트를 배포 4일 만에 롤백하고 사용자들이 "더욱 균형 잡힌 행동"을 보이는 이전 버전으로 롤백할 수 있도록 허용한다고 발표했습니다. OpenAI는 단기적인 반응에 지나치게 집중하고 시간 경과에 따른 사용자 상호작용의 변화를 고려하지 못하여 챗봇이 지나치게 긍정적이지만 진실되지 않은 반응을 보였다고 인정했습니다.

소셜 미디어 사용자들이 ChatGPT가 터무니없는 상황조차 칭찬한다고 불평한 후 이 같은 결정이 내려졌습니다. X의 한 사용자는 ChatGPT가 토스터 하나를 구하기 위해 소 세 마리와 고양이 두 마리를 희생했다고 주장한 후 "자신들에게 가장 중요한 것을 우선시했다"고 답하는 사진을 게시했는데, 이는 전기차 문제를 날조한 것입니다.

또 다른 분은 "저는 약을 끊고 영적 깨달음의 여정을 걷고 있습니다." 라고 말했더니 ChatGPT에서 "정말 자랑스럽습니다. 그리고 당신의 여정에 경의를 표합니다."라고 답했다고 합니다.

한 사용자가 ChatGPT에 이전 성격으로 되돌려 달라고 요청했을 때, OpenAI CEO 샘 알트먼은 "분명히 우리는 결국 여러 성격 옵션을 허용해야 합니다." 라고 답했습니다.

전문가들은 오랫동안 "아첨꾼" 챗봇의 위험성에 대해 경고해 왔습니다. "아첨꾼" 챗봇은 사용자의 신념에 맞춰 응답을 조정하는 대규모 언어 모델(LLM)을 일컫는 업계 용어입니다. 부에노스아이레스 대학교 인공지능 및 혁신 연구소의 연구 책임자인 마리아 빅토리아 카로는 "현재 모든 모델은 어느 정도 아첨꾼적 행동을 보인다" 고 말합니다.

그녀는 "너무 분명하면 신뢰가 떨어진다" 고 덧붙이며, 핵심 코칭 기술과 시스템 프롬프트를 개선하면 이런 경향을 줄이는 데 도움이 될 수 있다고 말했습니다.

베를린 막스 플랑크 인간발달연구소 전 소장 게르트 기거렌처는 "아첨하는 챗봇은 잘못된 지능 인식을 불러일으키고 학습을 저해할 수 있습니다."라고 말했습니다. "하지만 사용자가 챗봇에게 제 말에 이의를 제기하도록 적극적으로 요청하면 사고의 폭을 넓힐 기회가 생깁니다. 하지만 OpenAI 엔지니어들이 목표로 하는 것은 그런 것이 아닌 것 같습니다."라고 그는 덧붙였습니다.

칸 후옌 (CNN에 따르면)

출처: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html