Google 렌즈가 이미지에 대한 오해의 소지가 있는 정보를 표시합니다.

사실 확인 기관인 Full Fact의 조사에 따르면, Google Lens 검색 결과의 AI 개요가 소셜 미디어에서 널리 유포되고 있는 여러 이미지에 대한 허위 또는 오해의 소지가 있는 정보를 제공하고 있는 것으로 나타났습니다.

Google Lens는 Google에서 개발한 이미지 검색 엔진입니다. - 사진: KLMOBILE

Full Fact에 따르면, 위 사례에는 우크라이나와 가자지구의 전쟁, 인도-파키스탄 갈등, 2025년 6월 에어 인디아 항공기 추락 사고, 소형 보트를 타고 영국으로 오는 이민자들에 대한 내용으로 추정되는 영상이 포함되어 있습니다.

Full Fact는 Google Lens를 사용하여 사실 확인을 거친 가짜 영상의 스크린샷을 검색했습니다.

최소 10건의 사례에서 AI 요약은 가짜 콘텐츠를 인식하지 못했으며, 소셜 미디어에서와 동일한 잘못된 정보를 반복하기도 했습니다.

네 가지 사례에서 AI 개요는 Full Fact가 반박한 허위 주장을 그대로 반복합니다. 또한, AI 요약 결과는 같은 이미지를 검색할 때마다 달라질 수 있어 정보의 일관성이 떨어질 수 있습니다.

구글은 이러한 오류 중 일부가 발생할 수 있음을 인정하며, 이는 AI 개요 시스템이 아닌 이미지 검색 결과에서 발생한다고 밝혔습니다.

Google에 따르면, 이미지 검색 결과에는 일치하는 이미지와 잘못된 정보가 모두 포함된 웹 소스나 소셜 미디어 게시물이 포함될 수 있으며, 이는 AI 요약에 영향을 미칩니다.

Google은 항상 관련성 있고 고품질의 정보를 표시하는 것을 목표로 하고 있으며, 지속적으로 개선하고, 문제가 발견되면 정책에 따라 처리할 것이라고 밝혔습니다.

Google에서는 AI 개요가 정보를 "조작"하는 경우가 거의 없다고 주장하지만(AI "환각"이라고도 함), 여전히 중요하고 민감한 문제에 대한 잘못된 정보를 퍼뜨리고 있습니다.

예를 들어, 한 바이럴 영상은 망명 신청자들이 영국 도버 비치에 도착한다고 허위로 주장했지만, 실제로는 인도 고아의 해변이었습니다. 구글 렌즈는 해당 영상의 스크린샷을 검색했을 때 "영국 도버 비치에 모인 사람들"이라고 요약했습니다.

또는 러시아-우크라이나 전쟁에 대한 일부 가짜 영상, 심지어 비디오 게임 Arma 3의 이미지도 AI 개요에 의해 가짜 콘텐츠라는 경고 없이 실제 영상으로 설명됩니다.

동일한 비디오 게임이지만 두 개의 다른 장면이 AI에 의해 C-RAM 방어 시스템이 포탄을 요격하는 장면과 SpaceX 로켓 발사 장면으로 요약되는 경우가 있는데, 이것이 가짜 이미지라는 것은 아닙니다.

구글 렌즈의 AI 합성은 영국 도버에 도착한 난민의 이미지라고 주장하면서 거짓 정보를 제공했습니다. - 사진: 전체 사실

Google 렌즈는 사용자가 온라인에서 비슷한 이미지와 비교하기 위해 사진이나 비디오 프레임을 검색할 수 있는 이미지 검색 엔진입니다.

때로는 웹에서 관련 정보를 모아 AI 요약이 페이지 상단에 표시됩니다. "AI는 실수를 할 수 있다"는 경고에도 불구하고, 잘못된 정보를 눈에 띄게 표시하면 대중을 쉽게 오도할 수 있습니다.

Full Fact에서는 Google Lens의 AI 개요 도구를 수동 사실 확인을 대체하는 것이 아니라 시작점으로 보고, 비교를 위해 신뢰할 수 있는 추가 출처를 찾아볼 것을 권장합니다.

구글 검색 결과에 잘못된 정보가 표시된 것은 이번이 처음이 아닙니다. 풀 팩트는 구글과 Google.org로부터 재정 지원을 받았지만 완전한 편집 독립성을 유지하고 있다고 밝혔습니다.

주제로 돌아가기

안 투

출처: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm