AI, 사진을 통한 위치 식별 능력에 대한 우려 제기

최근, 학생 그룹이 진행한 예측 이미지 위치 정보(PIGEON)라는 프로젝트는 시스템에 입력된 사진을 통해 위치 정보를 정확하게 파악하는 데 탁월한 능력을 보이며 인공지능의 새로운 면모를 보여주었습니다. 미국 스탠퍼드 대학교의 세 학생이 구글 스트리트 뷰 앱에서 촬영된 사진의 위치를 파악하기 위해 이 프로젝트를 설계했습니다.

하지만 시스템이 전혀 인식하지 못했던 개인의 이미지를 보여주었을 때, 프로그램은 대부분의 경우 사진이 촬영된 장소를 정확하게 추측할 수 있었습니다.

온라인에 게시되지 않았던 2012년 옐로스톤 국립공원(미국)의 사진이 AI에 의해 실제 위치보다 56km 떨어진 것으로 판별되었습니다.

오늘날 AI의 다른 많은 응용 분야와 마찬가지로, 이 새로운 발견은 "양날의 검"으로 여겨집니다. 한편으로는 오래된 사진의 위치를 파악하는 데 도움이 될 수 있고, 다른 한편으로는 현장 생물학자가 침입 식물을 탐지하기 위해 전체 지역을 신속하게 조사할 수 있도록 해줍니다.

"하지만 반대로, 이러한 권한은 공유할 의사가 없는 개인 정보에 접근하는 데 사용될 수도 있습니다."라고 미국시민자유연맹(ACLU)의 수석 정책 분석가인 제이 스탠리는 말했습니다. 스탠리는 프로젝트 PIGEON과 유사한 기술이 널리 보급되어 정부 와 기관이 사람들을 추적하거나 감시하는 도구가 될 것을 우려합니다. "개인정보 보호 관점에서 볼 때, 사용자의 위치는 매우 민감한 정보입니다."라고 그는 강조했습니다.

PIGEON을 만든 학생들은 CLIP이라는 기존 이미지 분석 시스템을 사용하여 프로젝트를 시작했다고 밝혔습니다. 이 시스템은 ChatGPT를 만든 회사인 OpenAI가 만든 텍스트 설명을 통해 이미지에 대해 "학습"할 수 있는 신경망 프로그램입니다. 연구팀은 이후 구글 스트리트 뷰에서 가져온 이미지를 사용하여 자신들의 AI 버전을 훈련시켰습니다.

"우리는 약 50만 장의 거리 사진으로 구성된 데이터 세트를 만들었습니다."라고 팀원 세 명 중 한 명인 실라스 알베르티는 말했습니다. PIGEON은 기존 프로그램과 훈련에 기능을 추가함으로써 지구상 어디에서든 구글 스트리트 뷰 사진의 지리적 위치를 파악할 수 있었습니다. 95%의 정확도로 국가를 추측했고, 사진 반경 40km 이내의 정확한 위치를 찾아내는 경우도 많았습니다.

소스 링크: https://thanhnien.vn/ai-gay-lo-ngai-vi-kha-nang-xac-dinh-vi-tri-qua-anh-chup-185231220224301821.htm