● 기업이 적절한 보안 조치를 구현하면 위험을 통제할 수 있습니다.
● 이스라엘의 사이버 보안 회사인 Team8은 다양한 기업의 정보 보안 책임자들의 피드백을 바탕으로 이 문제에 대한 보고서를 작성했습니다.
사진: 개비 존스/블룸버그.
이스라엘 사이버보안 벤처인 Team8은 보고서에서 현재 ChatGPT와 같은 일부 인공지능 애플리케이션을 사용하는 기업은 기밀 고객 정보와 영업 비밀이 노출될 위험에 직면할 가능성이 높다고 밝혔습니다.
블룸버그 뉴스 에 발간을 앞두고 제공된 이 보고서는 챗봇과 텍스트 편집기에서 AI 활용이 증가함에 따라 많은 기업이 데이터 유출 및 소송에 노출될 수 있다고 지적했습니다. 보고서는 해커들이 챗봇을 이용해 민감한 기업 정보를 탈취하거나 기업에 해를 끼치는 행위를 할 수 있다는 우려를 제기했습니다. 현재 챗봇에 제공되는 기밀 정보가 향후 AI 기업에 의해 악용될 수 있다는 우려도 제기되었습니다.
마이크로소프트와 알파벳 등 많은 대형 기술 기업들이 자사의 챗봇과 검색 엔진을 개선하기 위해 인공지능을 통합하기 위해 경쟁하고 있습니다. 인터넷에서 수집한 데이터 세트를 기반으로 인공지능 모델을 학습시켜 사용자에게 어떤 질문에도 답할 수 있는 다기능 도구를 제공하고자 합니다. 보고서에 따르면, 이러한 애플리케이션에 기밀 또는 개인 정보가 제공될 경우, 제공된 정보를 삭제하는 것은 매우 어려울 것입니다.
보고서는 "기업 환경에 인공지능을 적용하면 민감한 정보, 지적 재산권, 소스 코드, 영업 비밀 및 기타 데이터가 사용자로부터 직접 수신하거나 API를 통해 수신된 데이터를 통해 악용되고 처리될 위험이 발생할 수 있습니다. 여기에는 사용자 개인 정보 및 기밀 정보도 포함됩니다."라고 밝혔습니다. 보고서는 이러한 위험을 "높음"으로 평가했으며, 적절한 사이버 보안 조치를 시행할 경우 이러한 위험은 "관리 가능"하다고 밝혔습니다.
Team8의 보고서는 인공지능을 훈련하기 위해 기업에 챗봇 입력이 제공되지 않는다는 점을 강조합니다. 이는 다른 사람이 입력 내용을 읽을 수 있다는 최근 보고서와는 상반됩니다.
이 글을 쓰는 시점을 기준으로, 대규모 언어 데이터로 훈련된 AI 모델은 실시간으로 스스로를 업데이트할 수 없으며, 따라서 한 사람의 입력을 다른 사람의 입력에 맞춰 처리할 수 없습니다. 따라서 그러한 가능성에 대한 우려는 근거가 없습니다. 그러나 이러한 모델의 미래 버전이 반드시 유사한 특성을 가질 것이라고 보장할 수는 없습니다.
보고서는 AI 통합과 관련된 세 가지 다른 문제도 "고위험"으로 평가하고, 타사 애플리케이션과의 정보 공유 위협이 증가하고 있음을 강조했습니다. 마이크로소프트는 Bing 검색 엔진과 Microsoft 365 소프트웨어 제품군에 여러 챗봇 기능을 통합했습니다.
"예를 들어, 사용자 측에서 인공지능 모델의 API를 활용하는 타사 애플리케이션이 손상되어 사용자의 이메일과 웹 브라우저에 액세스할 수 있게 되면 침입자가 해당 사용자를 대신하여 활동을 수행할 수 있습니다."
보고서는 또한 인공지능을 사용하면 차별이 심화되고, 회사의 평판이 훼손되거나 저작권 문제로 법적 조치를 받을 수 있는 '중간 위험'이 있다고 평가했습니다.
마이크로소프트 부사장인 앤 존슨이 보고서에 기여했습니다. 마이크로소프트는 ChatGPT 애플리케이션을 개발한 OpenAI에 수십억 달러를 투자했습니다.
Microsoft 대변인은 "Microsoft는 사이버 보안 및 인공지능 커뮤니티 내에서 진화하는 사이버 위험에 대한 투명한 논의를 장려합니다."라고 말했습니다.
여러 미국 기업의 최고정보보안책임자(CISO)들도 보고서에 기여했습니다. Team8 보고서는 미국 국가안보국(NSA)과 미국 사이버사령부(Cyber Command)의 전 의장인 마이클 로저스(Michael Rogers)의 지지를 받았습니다.
Nguyen Quang Minh (블룸버그에 따르면)
[광고_2]
원천
댓글 (0)