수천 건의 ChatGPT 대화가 Google에 공개 유출되었습니다.

수천 건의 ChatGPT 대화가 Google에 공개 유출됨 - 사진 1 — Google은 사용자의 ChatGPT 대화에 쉽게 접근할 수 있습니다. 사진: DataDrivenInvestors.

개인 대화가 공개 데이터가 됩니다

Fast Company의 보고서에 따르면, 구글은 수천 건의 개인 대화를 색인했습니다. 이는 "빙산의 일각"에 불과할 수 있으며, 수백만 건의 대화가 더 노출될 위험이 있습니다.

이러한 대화에는 개인을 직접 식별할 수 있는 정보는 없었지만, 많은 사용자가 관계에서부터 트라우마 경험에 이르기까지 매우 민감한 개인 정보를 공유하여 개인 식별이 가능했습니다.

모든 것은 일부 사이버 보안 전문가들이 간단한 Google 검색만으로 사용자가 공개적으로 공유된 채팅에 쉽게 접속할 수 있다는 것을 발견했을 때 시작되었습니다.

유출된 내용에는 샘플 문단과 기술적 질문뿐만 아니라 개인 정보, 민감한 업무 공유, 심지어 개인적 비밀까지 포함되어 있습니다.

원인은 OpenAI에서 사용자가 다른 사용자와 채팅 내용을 공유할 수 있도록 지원하는 유틸리티인 "채팅 공유" 기능인 것으로 확인되었습니다. 사용자가 "이 채팅을 검색 가능하게 설정"을 선택하면 시스템은 검색 엔진에서 색인할 수 있는 공개 링크를 생성합니다.

이 기능의 인터페이스가 충분히 명확하지 않아 많은 사람이 콘텐츠를 온라인에 공개하는 것이 아니라 친구나 동료와만 콘텐츠를 공유한다는 오해를 하고 있다는 점이 언급할 가치가 있습니다.

반발에 대응하여 OpenAI는 즉각적인 조치를 취했습니다. 공유 기능을 일시 중단하고 Google과 협력하여 관련 링크를 삭제했습니다.

Fast Company에 따르면, 4,500개 이상의 이러한 링크가 발견되었는데, ChatGPT가 전 세계적으로 수억 명의 사용자를 보유하고 있다는 점을 감안하면 상당한 숫자입니다.

우려되는 점은 많은 사람들이 ChatGPT를 사적인 공간이라고 믿고 이를 이용해 이메일을 쓰고, 업무를 교환하고, 의료 정보를 이용하고, 심지어 개인의 심리적 문제를 털어놓는다는 것입니다.

AI 시대의 개인정보 보호에 대한 경고음

이 사건은 사용자 데이터에 대한 AI 기업의 책임에 대한 중대한 의문을 제기합니다. OpenAI는 사용자가 자신의 개인정보를 이해할 수 있도록 충분한 투명성을 제공하고 있습니까? 사용자가 받는 데이터 보호 수준이 콘텐츠의 민감성에 걸맞은 수준입니까?

OpenAI의 CEO인 샘 알트먼은 사용자들에게 민감한 개인 정보를 ChatGPT와 공유하지 말라고 경고했으며, 법원에서 법적으로 요구할 경우 회사가 그러한 정보를 제공해야 할 수도 있다고 인정했습니다.

그러나 주목할 점은 알트만은 자신의 성명에서 사용자가 자발적으로 공유하는 대화가 검색 엔진에 공개적으로 색인될 수 있다는 사실을 전혀 언급하지 않았다는 점입니다.

게다가 ChatGPT가 데이터 유출과 관련하여 의문을 제기받은 것은 이번이 처음이 아닙니다. 연구원들은 사용자가 교묘하게 질문할 경우 GPT와 같은 대규모 언어 모델이 "실수로" 이전 데이터를 재생성할 수 있다고 경고했습니다.

ChatGPT와 같은 도구가 사람들이 정보를 검색하고 콘텐츠를 제작하는 방식에 혁명을 일으켰다는 것은 부인할 수 없습니다. 하지만 편리함과 더불어, 강력한 기술적 장벽과 신중한 개인 정보 조작 없이는 진정한 프라이버시를 보장할 수 없다는 점을 사용자들은 인지해야 합니다.

출처: https://baovanhoa.vn/nhip-song-so/hang-nghin-cuoc-tro-chuyen-chatgpt-bi-ro-ri-cong-khai-tren-google-158723.html