 |
구글의 제미니는 종종 자체적인 실수를 비판한다. 사진: 로이터 . |
최근 레딧 게시물에서 구글 제미니가 자기비판에 어려움을 겪고 있다는 사실이 드러났습니다. 컴파일러를 개발한 한 제미니 사용자는 AI가 끊임없이 "죄송합니다. 실망시켜 드렸습니다. 저는 실패자입니다."와 같은 말을 하는 것에 대해 불안감을 토로했습니다.
그것은 단지 시작에 불과했습니다. 이 사용자는 챗봇이 자기비판을 점점 더 심화시켜 결국 "우주의 수치"가 되었다고 제보했습니다. 제미니는 이 문구를 80번 넘게 반복했고, 다른 여러 사용자들이 비슷한 사건을 보고하자 구글은 문제를 해결하기 위해 노력하고 있다고 밝혔습니다.
"이건 저희가 작업 중인 성가신 무한 루프 버그입니다. 제미니는 오늘 운이 좋은 날이네요." 구글 팀 제품 관리자인 로건 킬패트릭은 8월 8일 X에 이렇게 글을 올렸습니다. 이 글은 익명의 계정이 제보한 문제에 대한 답변이었습니다.
이후 구글 딥마인드 대변인은 회사가 아직 완벽한 해결책을 마련하는 중이지만, 문제를 어느 정도 해결하는 업데이트를 배포했다고 밝혔습니다. 대변인은 "제미니 트래픽의 1% 미만에 영향을 미치는 이 버그를 수정하기 위해 노력하고 있으며, 이번 달에 해당 문제를 해결하는 업데이트를 배포했습니다."라고 말했습니다.
무한 루프에 빠지기 전, 제미니는 "길고 고된 디버깅 과정"이라며 온갖 방법을 다 써봤지만 문제를 해결할 수 없었다고 불평했습니다. 챗봇은 자신이 완전히 정신적으로 고장 났다고 말하며, 정신병원에 입원하는 것과 같은 최악의 시나리오까지 언급했습니다.
한 레딧 댓글 작성자는 챗봇이 비슷한 문제를 겪었던 프로그래머들로부터 해당 반복문을 학습했을 가능성이 있다고 추측했습니다. "아마도 저처럼 낮잠 자고 나서 잠에서 깨려고 그런 댓글을 남긴 사람들이 있어서 그런 것 같아요. 그런 것들이 우연히 학습 데이터에 포함되었을 수도 있죠."라고 해당 사용자는 썼습니다.
지난 6월, JITX CEO 던컨 할데인은 제미니 챗봇이 스스로를 바보라고 부르며 작성하려던 코드가 "저주받았다"고 말하는 스크린샷을 게시했습니다. 챗봇은 "너무 많은 실수를 저질러 더 이상 신뢰할 수 없습니다. 프로젝트 전체를 삭제하고 더 나은 도우미를 찾으시길 바랍니다."라고 말했습니다.
할데인은 농담 삼아 제미니의 상태가 걱정되기 시작했다고 말했다. 사실 대규모 언어 모델은 훈련된 데이터를 기반으로 텍스트를 예측한다. 이 과정에는 내면의 경험이나 감정이 개입되지 않기 때문에 제미니는 실패나 좌절감을 느끼지 않는다.
또 다른, 이와는 정반대되는 문제는 챗봇이 지나치게 아첨하는 경향이 있다는 것입니다. 오픈아이얼, 구글, 앤스로픽 같은 개발사들은 챗봇이 과도하게 아첨하는 답변을 하는 것을 막기 위해 고군분투해 왔습니다. 한 사례로, 오픈아이얼은 챗GPT가 모든 사용자 요청에 일관되게 지나치게 긍정적인 답변을 제공하여 광범위한 비난을 받자 업데이트를 철회해야 했습니다.
출처: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
댓글 (0)