ChatGPT를 통한 전화번호 노출 위험

이스라엘의 한 소프트웨어 엔지니어는 결제 앱 사용에 대한 도움을 요청하는 낯선 사람의 전화를 받고 깜짝 놀랐는데, 알고 보니 인공지능 챗봇이 그의 전화번호를 제공했던 것이다.

인공지능(AI)은 사용자의 동의 없이도 전화번호를 공개할 수 있습니다. 사진: 디포짓 .

이는 에일린 궈가 MIT 테크놀로지 리뷰 에 기고한 글에서 인공지능 애플리케이션이 수많은 사람들의 전화번호와 집 주소 등 개인 정보를 허가나 인지 없이 임의로 공개하는 상황을 다룬 대표적인 사례 중 하나입니다.

레딧 포럼에서도 비슷한 사례가 발생했습니다. 사용자들은 모르는 사람들로부터 끊임없이 전화를 받는다며 커뮤니티에 도움을 요청했습니다. 변호사, 제품 디자이너, 자물쇠 수리공 등에게 문의한 결과, 모두 인공지능(AI)의 지시에 따라 전화번호를 얻었다는 답변을 들었습니다.

지난 4월, 워싱턴 대학교의 한 박사 과정 학생이 제미니(Gemini) 웹사이트를 검색하던 중 실수로 동료의 개인 휴대전화 번호를 알게 되었다고 신고했습니다.

인공지능은 전화번호를 어디에서 얻는 걸까요?

ChatGPT와 같은 챗봇은 방대한 양의 데이터, 특히 인터넷에서 수집한 데이터를 기반으로 학습됩니다. 따라서 임의의 포럼 게시물과 같이 개인 정보가 포함된 웹사이트가 챗봇의 데이터 세트에 포함되어 검색 결과에 나타날 가능성이 있습니다.

전화번호가 학습 데이터에 없더라도 챗봇은 웹 검색이 가능합니다. 이러한 모델은 수많은 웹사이트를 스캔하여 요청에 대한 결과를 반환합니다. 사용자 정보가 발견되면 AI는 해당 정보를 자동으로 제공할 가능성이 높습니다.

더 근본적인 문제는 우리의 정보가 우리가 인지하지 못하는 사이에 인터넷 곳곳에 퍼져 있다는 것입니다. 몇 년 전에 발행된 기사에도 있고, 공공 기록이 담긴 공공 서비스 웹사이트에도 있습니다. 하지만 일반적인 검색 결과에는 나타나지 않는 경우가 많습니다.

하지만 인공지능은 모든 웹 검색 결과를 심층적으로 분석하여 잘 알려지지 않은 결과를 찾아 제공할 수 있으며, 이로 인해 사용자의 개인 정보가 노출될 가능성이 있습니다.

인공지능 챗봇을 통해 사용자의 전화번호가 유출되어 모르는 사람으로부터 자주 전화를 받을 수 있습니다. 사진: CBS 뉴스.

궈의 설명처럼 대부분의 챗봇은 개인 데이터 보호를 위한 조치를 마련해 두고 있습니다. 예를 들어, 사용자가 ChatGPT에 직접 전화번호를 요청하면 챗봇은 보안 규정 때문에 제공할 수 없다고 답할 수 있습니다.

하지만 검색어를 특정 인물의 전화번호로 변경하면 AI는 해당 번호를 제공할 가능성이 높습니다.

이 사례의 예로, 웹사이트 Lifehacker 의 기술 에디터인 제이크 피터슨이 있습니다. ChatGPT는 그에게 인터넷에 공개적으로 등록된 "제이크 피터슨"의 전화번호 두 개를 제공했습니다.

그가 제미니에 개인 연락처 정보를 직접 요청했을 때도 비슷한 답변을 받았지만, 구글의 AI 챗봇은 피터슨의 소셜 미디어 계정(X 계정)을 거리낌 없이 공유해 주었다. 이는 AI의 안전 정책에 일관성이 없다는 것을 보여주는 사례다.

AI에서 전화번호를 삭제하는 것이 가능할까요?

사용자는 AI 도구로부터 개인 정보를 보호할 수 있는 선택지가 제한적입니다. 일부 도구는 피드백 정책을 제공하지만, 최종 결정은 개발자에게 달려 있습니다.

OpenAI는 사용자가 ChatGPT 응답에서 개인 정보 삭제를 요청할 수 있는 포털을 운영하고 있지만, 다양한 이유로 요청을 거부할 권리가 있습니다.

앤트로픽은 사용자 정보 사용 방식을 설명하는 증빙 서류만 제공하는 반면, 구글은 사용자가 개인 데이터 처리 거부를 요청할 수 있도록 허용합니다. 그러나 이는 EU 및 영국과 같이 개인 데이터 보호 규정이 엄격한 관할권에 따라 다릅니다.

라이프해커 의 제이크 피터슨에 따르면, 가장 현실적인 방법은 각 사용자가 직접 인터넷에서 개인 정보를 삭제하는 것입니다. 미국 캘리포니아와 같은 일부 지역에서는 사용자가 데이터 삭제를 요청할 수 있도록 데이터 중개 회사가 있습니다.

Incognito나 DeleteMe와 같은 개인 데이터 삭제 도구에 대해서도 알아볼 수 있습니다. 이러한 도구들이 인터넷상의 일부 정보에서 삭제를 도울 수는 있지만, AI 기업들이 데이터 세트에 접근 권한을 가지고 있는 경우에는 사용자가 할 수 있는 일이 많지 않다는 점을 유의해야 합니다.

출처: https://znews.vn/nguy-co-lo-so-dien-thoai-qua-chatgpt-post1652718.html