해커, AI 챗봇에 '신뢰'해 최고 기밀 기업 정보 얻을 수 있어

기술 전문가에 따르면, 해커는 일련의 정교한 프롬프트를 사용하여 감지되지 않고 회사의 '기밀' 데이터베이스에 침투할 수 있습니다.

"베트남의 디지털 도약 시대"를 주제로 열린 2025년 오픈인프라 & 클라우드 네이티브 데이 베트남 행사 개요 - 사진: 치 히에우

인공지능(AI)은 많은 이점을 제공하며, 현재 많은 기업들이 직원과 고객과 같은 최종 사용자에게 서비스를 제공하기 위해 AI를 도입하고 있습니다. 그러나 이러한 도입은 해커가 데이터 저장 시스템을 공격하고 정보를 탈취할 수 있는 취약점을 만들어낼 수도 있습니다.

"현재 AI 모델을 공격하는 방법은 여러 가지가 있는데, 그중 가장 흔한 것은 '콘텐츠 오염'입니다. 이러한 공격은 기존의 정보 보호 시스템에는 '보이지 않는' 것처럼 보입니다."라고 아카마이 테크놀로지스 베트남의 다오 비엣 훙 사장은 7월 26일 하노이 에서 열린 '오픈인프라 & 클라우드 네이티브 데이 베트남 2025' 행사에서 경고했습니다.

이번 행사는 베트남 인터넷 협회(VIA)가 베트남 오픈 인프라 커뮤니티(VietOpenInfra), 베트남 클라우드 컴퓨팅 및 데이터 센터 클럽(VNCDC)과 협력하여 과학기술부 의 지원을 받아 주최했습니다.

기업의 90%가 오픈소스 플랫폼이나 소프트웨어를 사용하고 있습니다.

개회사를 통해 베트남 인터넷 협회 부회장 겸 사무총장인 부 테 빈(Vu The Binh) 씨는 국가 디지털 전환 과정에서 개방형 인프라와 오픈 소스의 중요성을 강조했습니다.

급변하는 글로벌 기술 환경 속에서 빈 씨는 개방형 인프라가 혁신의 기반으로서 지속적으로 발전하고 있으며, 90% 이상의 기업이 다양한 형태로 개방형 플랫폼이나 소프트웨어를 사용하고 있다고 밝혔습니다.

Red Hat의 2024년 설문조사에 따르면, 기술 리더의 82%가 개방형 플랫폼과 소프트웨어가 디지털 전환을 주도하고 혁신을 가속화하는 데 핵심적인 역할을 한다고 생각합니다. Kubernetes, OpenStack, Linux, Ceph, OpenTelemetry와 같은 플랫폼은 AI, IoT, 5G/6G 및 클라우드 네이티브 시스템 운영에 점점 더 중요한 역할을 하고 있습니다.

"10년 전만 해도 클라우드는 하늘에 떠 있는 구름으로만 여겨졌을 것이고, 오픈 소스는 '비밀 무술'처럼 들렸을 것입니다. 하지만 오늘날 우리는 180여 개국에 걸쳐 있는 글로벌 오픈 인프라 커뮤니티와 연결하여 코드 한 줄 한 줄을 혁신의 원동력으로 바꾸기 위해 함께 노력하고 있습니다."라고 부 테 빈 씨는 말했습니다.

AI 챗봇은 해커들이 시스템에 침투할 수 있는 "좁은 틈새"입니다.

"현재 많은 기업들이 업무 효율성을 높이고 사용자 경험을 개선하기 위해 AI 챗봇과 같은 통합 시스템을 갖춘 개방형 반응형 플랫폼의 이점을 적극적으로 활용하고 있습니다."

아카마이 테크놀로지스 베트남의 다오 비엣 훙 지사장은 "콘텐츠 오염 공격"을 비롯해 AI 모델을 겨냥한 다양한 공격 방식이 바로 이 지점에서 비롯된다고 경고했습니다.

그는 베트남 기업들이 AI를 도입할 때 이러한 유형의 공격에 대한 지식이 여전히 부족하다고 지적했습니다.

따라서 악의적인 행위자들은 AI 모델에 허위 정보를 반복적으로 묻고 재학습시키는 방식을 사용하여 정보를 "오염"시킵니다.

클라우드 시스템의 정보가 "감염"되었지만 감지되지 않고 계속 사용될 경우, 부정확한 정보를 제공하거나 해당 취약점을 악용하여 데이터베이스에 접근하여 정보를 탈취할 수 있습니다.

아카마이 테크놀로지스 베트남 지사장 다오 비엣 훙 씨 - 사진: 치 히에우

다오 비엣 훙 씨는 한 자동차 회사의 온라인 판매 챗봇 시스템이 단돈 1달러에 신차를 팔도록 설득당한 사례와 같은 특이한 이야기들을 언급했습니다.

그 이유는 해당 고객이 챗봇과의 소통 및 협상 과정에서 데이터베이스를 "우회"하고 챗봇을 설득하여 요청에 동의하도록 만들었기 때문입니다.

또 다른 사례에서는 해커가 적절한 질문을 만들어 내부 AI 챗봇에 보내는 것만으로 회사의 모든 기밀 문서와 조직도를 성공적으로 입수한 경우가 있습니다.

그러한 위험성을 바탕으로 다오 비엣 훙 씨는 AI가 AI를 보호하는 AI 보안 솔루션을 공유했는데, 이는 전 세계 많은 대기업에서 사용하는 방식입니다.

이 보안 방식을 사용하면 저장된 데이터에 여러 단계의 보호 장치가 적용되어 "감염"되기 어렵습니다.

인공지능 기반 보안 시스템은 어떤 정보가 안전한 정보이고 어떤 정보가 잠재적인 공격 위험을 내포하는지 감지한 후 신속하고 적절한 조치를 취할 수 있습니다.

본론으로 돌아가서

효행

출처: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm