인공지능을 오용하면 데이터 보안이 손상될 수 있습니다.

인공지능(AI) 혁명은 2022년 말, 특히 OpenAI가 ChatGPT를 출시한 이후 폭발적으로 성장했습니다. 곧이어 마이크로소프트의 Copilot과 Bing, 구글의 Gemini 등 주요 기술 기업들도 AI 도구를 출시하며 AI의 활용도를 더욱 높였습니다. 이러한 도구들은 코드 작성, 데이터 분석부터 정보 종합에 이르기까지 모든 작업을 단시간에 처리할 수 있도록 지원합니다. 이로 인해 많은 사용자들이 AI에 더욱 관심을 갖게 되었습니다.

걱정하면서 동시에 사용하고 있다.

호치민시 빈탄구에 거주하는 사무직 직원인 응우옌 호아이 상 씨는 AI 소프트웨어를 사용하기 시작한 이후로 구글 미트와 줌 플랫폼을 통해 비즈니스 보고서를 작성하고, 정보를 수집하고, 내부 회의나 고객 미팅에서 메모를 작성하는 데 드는 시간을 수작업 방식에 비해 40~50% 절약할 수 있었다고 말했습니다. 그러나 AI 도구를 다운로드한 후 컴퓨터가 1~2분 동안 멈추는 현상이 발생하고 성능도 이전보다 저하되었다는 점을 발견했습니다.

"ChatGPT, Copilot, Gemini 외에도 구글 크롬 확장 프로그램 스토어에서 Sider, SearchGPT, Tactiq 같은 AI 도구들을 몇 가지 설치했습니다. 그런데 그 이후로 컴퓨터 속도가 느려졌습니다. 예를 들어 워드 파일을 타이핑할 때 타이핑이 원활하지 않고, 간단한 애플리케이션 실행에도 평소보다 5~7초 정도 더 걸립니다. 시중에 나와 있는 좋은 노트북인데도 말이죠. 그 결과 작업이 종종 중단되어 집중이 안 되고 짜증이 납니다. 그런데 더 걱정되는 건 혹시 바이러스에 감염되어 AI가 기기에 침투해 데이터를 빼가는 건 아닐까 하는 점입니다." - 상 씨는 걱정스럽게 말했다.

한편, 호치민시에서 기업 내부 시스템 오류를 수정하는 업무를 주로 담당하는 IT 직원인 쑤안 탄 씨는 AI가 자신의 업무에 큰 도움이 된다고 생각합니다. 오류를 신속하게 해결하기 위해 설명과 코드 작성만 하면 되기 때문입니다. 하지만 그는 AI의 보안 문제에 대해서도 우려를 표했습니다.

"인공지능을 즉시 활용해야 하는 업무들이 있어서 어쩔 수 없이 사용해야 합니다. 하지만 일부 인공지능 소프트웨어 개발사가 사용자의 질문과 상호작용을 통해 수집한 데이터를 이용해 사용자 시스템에 침투할 가능성이 우려됩니다. 또한, 인공지능이 사용자로부터 데이터를 수집했을 때 악의적인 공격자가 그 데이터에 대해 질문하면 인공지능이 정보를 제공할 가능성도 걱정됩니다. 아직까지 이와 관련된 사건은 발생하지 않았지만, 인공지능의 안전성에 대해 여전히 확신이 서지 않습니다."라고 탄 씨는 회의적인 어조로 말했다.

AI 소프트웨어는 컴퓨터 오작동의 원인이 될 수 있습니다.

AI를 다운로드할 때는 주의하세요.

베트남 국가 사이버보안 비상대응센터(VNCERT)의 응우옌 후 응우옌 부센터장에 따르면, AI 소프트웨어 다운로드 후 컴퓨터 속도 저하 및 성능 저하는 AI 소프트웨어의 복잡한 기능이 시스템 리소스를 많이 소모하기 때문일 수 있으며, 반드시 바이러스 때문만은 아니라고 합니다.

하지만 응우옌 씨에 따르면, 신뢰할 수 없는 출처에서 AI를 다운로드할 경우 시스템 해킹을 위한 악성코드가 포함될 수 있으므로 주의해야 합니다. 또한 데이터 보호에도 신경 써야 하며, AI 도구의 개인정보 처리방침과 이용약관을 꼼꼼히 읽어 데이터 수집 및 사용 방식을 정확히 파악해야 합니다. 더불어 AI 사용 시 기기 접근 권한을 엄격하게 관리해야 하며, 특히 중요한 문서는 AI와 공유하지 않도록 하여 위험을 최소화해야 합니다.

인공지능 개발부서의 사기 방지 프로젝트 책임자인 타 콩 손 씨는 인공지능을 실행한 후 컴퓨터 속도가 느려지거나 멈추는 현상이 인공지능의 기능을 처리하기에 충분한 RAM이 부족하기 때문일 수 있다고 생각합니다. 하지만 이는 사용자가 위험에 노출될 수 있다는 경고 신호이기도 합니다.

손 씨는 "안전을 확보하기 위해 사용자는 AI 접근 권한을 제한해야 합니다. 애플리케이션이 권한을 요청할 때, 사용자는 해당 권한을 부여하는 것이 필요한지, 안전한지 신중하게 고려해야 합니다. AI 도구를 안전하게 사용하는 방법 중 하나는 백신 프로그램을 사용하여 검사하고 확인하는 것입니다. 또한, Virustotal.com이나 Eset.com과 같은 웹사이트를 통해 AI에 악성코드가 포함되어 있는지, 안전한지 확인할 수 있습니다."라고 권고했습니다.

최근 2024년 고위급 사이버 보안 세미나에서 AMD 베트남의 트란 손 빈 사업 이사는 ChatGPT를 사용하여 코드를 작성하거나 프로그래밍하거나 데이터를 요약하는 사용자가 시스템 보안 문제에 직면할 수 있다고 지적했습니다. AI가 제공하는 코드에 악성 코드가 포함될 수 있으며, AI가 이를 악용하여 취약점을 이용하고 데이터 구조를 변경함으로써 시스템 보안과 성능을 저해할 수 있기 때문입니다.

빈 씨는 "각 부서는 인공지능을 활용하여 보고서를 작성하고 사용자가 제공한 데이터를 기반으로 정보를 종합하는 과정에서, 특히 업무 및 국가 기밀과 관련된 내용에 대해 인력 관리를 철저히 해야 합니다. 지금은 비교적 안전하지만, 미래에는 그 데이터가 안전하게 보호될지 아무도 알 수 없습니다."라고 강조했습니다.

AI가 데이터를 수집할 것입니다.

제미니에 따르면, 단순히 앱과 대화하는 것만으로도 사용자는 제미니가 의존하는 머신러닝 모델을 포함한 구글 서비스 개선에 도움을 받을 수 있습니다. 이러한 개선 과정에서 훈련된 검토자는 사용자 대화를 분석해야 합니다. 제미니는 "따라서 제미니를 사용할 때는 검토자가 보거나 구글이 사용하기를 원하지 않는 정보는 입력하지 마세요."라고 권고합니다.

마이크로소프트는 코파일럿(Copilot)이 사용자 상호작용을 통해 데이터를 수집한다고 밝혔습니다. 코파일럿이 제공하는 AI 제품은 사용자 입력에 기반하며, 일부는 플랫폼이 다른 상호작용 활동에 대한 데이터를 수집하여 생성됩니다.

이는 사용자가 AI와 정보를 공유할 때, 애플리케이션이 해당 정보를 수집하여 도구를 더욱 똑똑하게 만든다는 것을 의미합니다. 따라서 사용자가 타인에게 공개하고 싶지 않은 데이터가 사용자에게 노출될 수 있다는 것을 시사합니다.

출처: https://nld.com.vn/lam-dung-ai-coi-chung-du-lieu-kho-an-toan-196240330201849958.htm