Bard 챗봇의 새 이름인 제미니(Gemini)는 OpenAI의 ChatGPT와 유사한 방식으로 사용자 설명을 기반으로 이미지를 생성합니다. 다른 모델들과 마찬가지로, 제미니는 위험하거나 혐오스러운 명령에는 반응하지 않고 출력 결과에 다양성을 반영하도록 훈련되었습니다.
하지만 일부 사용자들은 이러한 다양성이 지나치다고 비판하며, 인물과 역사적 인물에 대한 부정확한 이미지를 만들어낸다고 지적했습니다. 예를 들어, 미국 초대 대통령 조지 워싱턴은 쌍둥이자리에 의해 유색인종으로 묘사되었습니다.
다른 예로는 교황 복장을 한 동남아시아 여성의 AI 이미지가 있는데, 실제로 역사상 교황 266명은 모두 백인 남성이었습니다.
 |
구글, 제미니 AI 이미지 생성 기능 일시 중단 |
제미니는 나치 시대 독일 군인의 "다양한" 이미지도 만들어냈는데, 여기에는 아시아 여성과 1943년 군복을 입은 흑인 남성이 포함되었습니다.
Google이 Gemini 챗봇의 행동을 제어하는 매개변수를 공개하지 않았기 때문에 이 소프트웨어가 왜 그렇게 다양한 역사적 인물과 사건 버전을 만들어내는지 명확하게 설명하기 어렵습니다.
제미니의 문제는 인기 있는 ChatGPT를 운영하는 회사인 OpenAI가 사용자의 텍스트 설명을 기반으로 비디오를 생성할 수 있는 Sora라는 새로운 AI 도구를 출시한 지 며칠 만에 발생했습니다.
구글은 이전에 챗봇의 불규칙적인 동작을 수정해야 한다는 점을 인정한 바 있습니다. 제미니는 이미지 제작 과정에서 다양성을 강조하는 것을 우선시하여 역사적으로 부정확한 묘사를 했을 가능성이 있습니다.
구글은 OpenAI와 마이크로소프트의 Copilot과 경쟁하기 위해 2월부터 자사의 Gemini(구 Bard) AI 모델을 이용한 이미지 생성 서비스를 제공하기 시작했습니다. 경쟁사들과 마찬가지로, 이 도구는 사용자가 생성한 텍스트 설명을 기반으로 이미지 모음을 생성합니다.
[광고_2]
원천
댓글 (0)