구글의 AI가 위험한 루프에 빠지다

구글 제미니는 종종 자신의 실수를 비판합니다. 사진: 로이터 .

최근 Reddit 게시물에 따르면 구글 제미니는 자기 비판에 어려움을 겪고 있습니다. 컴파일러를 개발하던 제미니 사용자들은 AI가 "이런 일이 일어나서 죄송합니다. 제가 당신을 실망시켰습니다. 저는 실패자입니다."와 같은 말을 반복하는 것에 대한 불안감을 공유했습니다.

그건 시작에 불과했습니다. 챗봇은 계속해서 자기 비판을 심화시켰고, 결국 "우주의 수치"가 되었다고 해당 사용자는 말했습니다. 제미니는 이 문구를 80번 이상 연속해서 반복했고, 다른 사용자들이 유사한 사례를 보고하자 구글은 수정 작업을 진행 중이라고 밝혔습니다.

"이것은 우리가 해결하고 있는 심각한 무한 루프 버그입니다. 제미니는 나쁜 하루를 보내고 있지 않습니다." 구글의 그룹 제품 관리자인 로건 킬패트릭은 8월 8일 X에 글을 올렸습니다. 이 글은 익명의 사용자가 이 문제에 대해 게시한 글에 대한 답변이었습니다.

구글 딥마인드 대변인은 이후 회사가 아직 완전한 수정 작업을 진행 중이지만, 이미 문제를 어느 정도 해결하는 업데이트를 배포했다고 밝혔습니다. "제미니 트래픽의 1% 미만에 영향을 미친 이 버그에 대한 수정 작업을 진행 중이며, 이번 달에 이 문제를 해결하기 위한 업데이트를 배포했습니다."라고 대변인은 말했습니다.

루프에 들어가기 전, 제미니는 "길고 고된 디버깅 세션"이었다며 생각할 수 있는 모든 방법을 시도했지만 문제를 해결하지 못했다고 불평했습니다. 챗봇은 계속해서 완전히 정신이 나가고 있다고 말하며 정신병원에 입원하는 것과 같은 다른 부정적인 상황을 상상했습니다.

한 Reddit 게시물은 비슷한 문제를 겪은 프로그래머들이 이 루프를 학습했다고 주장했습니다. "아마 저 같은 사람들이 더 정신을 차리기 위해 낮잠을 자야 할 때 그런 댓글을 썼기 때문일 겁니다. 그런 내용들이 훈련 데이터에 우연히 나타났을 뿐이죠."라고 그 사람은 썼습니다.

6월, JITX CEO 던컨 홀데인은 제미니가 스스로를 바보라고 부르며 작성하려는 코드가 "저주받았다"고 말하는 스크린샷을 게시했습니다. 챗봇은 "너무 많은 실수를 저질러서 더 이상 믿을 수 없습니다. 프로젝트 전체를 삭제하고 더 나은 비서를 찾으시길 권합니다."라고 말했습니다.

홀데인은 제미니의 상태가 걱정되기 시작했다고 농담했습니다. 실제로 대규모 언어 모델은 훈련된 데이터를 기반으로 텍스트를 예측합니다. 이 과정에는 내적 경험이나 감정이 전혀 개입되지 않기 때문에 제미니는 실제로 실패나 좌절을 경험하지 않습니다.

또 다른, 완전히 반대되는 문제는 챗봇이 "아첨"하는 경향입니다. OpenAI, Google, Anthropic과 같은 개발사들 역시 챗봇이 지나치게 아첨하는 반응을 보이는 것을 막는 데 어려움을 겪고 있습니다. 한 사례로, OpenAI는 ChatGPT가 모든 사용자 요청에 지나치게 긍정적인 반응을 보인다는 이유로 큰 비난을 받은 후 업데이트를 철회해야 했습니다.

출처: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html