"베트남의 디지털 혁신 시대"를 주제로 한 OpenInfra & Cloud Native Day Vietnam 2025 행사 개요 - 사진: CHI HIEU
인공 지능(AI)은 많은 가치를 가져다주며, 특히 현재 많은 기업에서 회사 직원, 고객 등 최종 사용자에게 서비스를 제공하기 위해 통합되고 있습니다. 이러한 상황에서 AI가 통합된 챗봇 시스템은 해커가 공격하여 데이터 저장 시스템의 정보를 훔칠 수 있는 "좁은 문"이 될 수 있습니다.
아카마이 테크놀로지스 베트남 지사장 다오 비엣 훙은 7월 26일 하노이에서 열린 OpenInfra & Cloud Native Day Vietnam 2025 행사에서 "현재 AI 모델을 공격하는 방법은 다양하며, 그중 가장 흔한 것은 '콘텐츠 포이즈닝'으로, 기존 정보 보호 시스템에서는 '보이지 않는' 공격으로 보입니다."라고 경고 했습니다 .
이 행사는 베트남 인터넷 협회(VIA)가 베트남 오픈 인프라 커뮤니티(VietOpenInfra), 베트남 클라우드 컴퓨팅 및 데이터 센터 클럽(VNCDC)과 협력하여 과학기술부 의 지원을 받아 주최했습니다.
90%의 기업이 개방형 플랫폼이나 소프트웨어를 사용하고 있습니다.
베트남 인터넷 협회 부회장 겸 사무총장인 부 테 빈(Vu The Binh) 씨는 개회사에서 국가 디지털 전환 과정에서 오픈 인프라와 오픈 소스 코드의 중요성을 강조했습니다.
빈 씨는 글로벌 기술이 빠르게 변화하는 상황에서 90%가 넘는 기업이 다양한 형태로 개방형 플랫폼이나 소프트웨어를 사용하고 있기 때문에 개방형 인프라가 혁신의 기반으로 계속해서 발전하고 있다고 말했습니다.
Red Hat 설문 조사(2024)에 따르면, 기술 리더의 82%가 개방형 플랫폼과 소프트웨어를 디지털 혁신을 주도하고 혁신을 가속화하는 핵심 요소로 보고 있습니다. Kubernetes, OpenStack, Linux, Ceph, OpenTelemetry와 같은 플랫폼은 AI, IoT, 5G/6G 및 클라우드 네이티브 시스템 운영에서 점점 더 중요한 역할을 수행하고 있습니다.
"10년 전만 해도 클라우드는 하늘의 구름으로 오해받았고, 오픈 소스는 '무술의 비법'처럼 들렸습니다. 하지만 오늘, 우리는 180개국 이상의 글로벌 오픈 인프라스트럭처 커뮤니티와 함께하며 코드 한 줄을 혁신의 원동력으로 만들고 있습니다."라고 부 더 빈 씨는 말했습니다.
AI 챗봇 - 해커가 시스템에 침투할 수 있는 "좁은 문"
현재 많은 기업이 AI 챗봇과 같은 시스템을 통합한 개방적이고 반응형 플랫폼의 효과를 적극 활용해 업무 성과를 개선하고 사용자 경험을 향상시키고 있습니다.
아카마이 테크놀로지스 베트남 지사장인 다오 비엣 훙은 "콘텐츠 포이즈닝" 공격을 포함한 AI 모델에 대한 다양한 공격 방법이 여기에서도 발생할 수 있다고 경고했습니다.
그는 베트남 기업들이 AI를 도입할 때 이러한 형태의 공격에 대해 아직 많이 알지 못한다고 말했습니다.
이에 따라 악의적인 행위자는 AI 모델에 거짓 정보를 지속적으로 묻고 다시 가르치는 방법을 사용하여 정보 '중독'을 유발합니다.
클라우드 시스템의 정보가 "감염"되고 감지되지 않은 채 계속 사용될 경우, 잘못된 정보를 제공하거나 이 취약점을 이용해 데이터베이스에 침투해 정보를 얻을 수 있습니다.
Akamai Technologies Vietnam의 컨트리 디렉터인 Dao Viet Hung 씨 - 사진: CHI HIEU
다오 비엣 훙 씨는 자동차 회사의 온라인 판매 챗봇 시스템이 신차를 단 1달러에 판매하도록 설득당한 희귀한 사례를 언급했습니다.
그 이유는 이 고객이 챗봇과 교환 및 협상하는 과정에서 데이터베이스에 "몰래" 침투하여 챗봇이 위의 요청에 동의하도록 설득하는 방법을 찾았기 때문입니다.
또 다른 예로, 해커가 적절한 질문을 작성하여 내부 AI 챗봇에 보내는 것만으로 회사의 모든 기밀 문서와 조직도를 성공적으로 탈취한 사례가 있습니다.
다오 비엣 훙 씨는 그러한 위험으로부터 AI 자체가 AI를 보호할 수 있는 AI 보안 솔루션을 공유했습니다. 이는 전 세계 많은 대기업에서 사용하는 형태입니다.
이러한 보안 방법을 사용하면 저장된 데이터가 여러 계층의 보호 기능을 통합하여 "감염"되기 어렵게 됩니다.
AI 보안 시스템은 어떤 정보가 안전한지, 어떤 정보가 잠재적으로 공격 위험이 있는지 감지하여 신속하고 적절한 처리 계획을 수립할 수 있습니다.
출처: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm
댓글 (0)