DNVN - AI(인공지능)가 스스로 작업을 완료하도록 하는 추세에 따라 사이버 공격 위험도 기하급수적으로 증가할 것입니다. 우려되는 점은 강력해야 할 일부 AI 시스템이 실제로는 매우 "취약"하다는 것입니다.
Thales Group의 CEO인 패트리스 케인 씨에 따르면, AI의 영향에 대한 논쟁은 점점 더 치열해지고 있으며, 이 기술에 대한 회의적인 시각도 많습니다. 하지만 AI는 부인할 수 없는 기술 트렌드입니다.
일부에서는 AI 기반 소셜 미디어나 의심스러운 소비자 도구를 두고 기술 거대 기업을 비판하지만, AI 자체는 없어서는 안 될 기술이 되어가고 있습니다. 그 효과는 비교할 수 없을 정도로 뛰어나며, 어떤 기업이나 정부도 무시할 수 없는 이점을 약속합니다.
머지않아 AI는 전기처럼 우리 삶에 없어서는 안 될 존재가 될 것입니다. 자동차 운행, 의료 서비스 구축, 은행 보호, 공공 조명 시스템 관리 등에 활용될 것입니다. 가장 큰 질문은, 우리가 앞으로 일어날 일에 준비가 되어 있는가?
AI를 둘러싼 논란은 주로 윤리적 문제, 정보 편향, 일의 미래에 초점을 맞추고 있습니다. 하지만 한 가지 중요한 문제는 간과되고 있습니다. 바로 AI 보안입니다. 가트너가 기업 위험 관리 임원을 대상으로 실시한 2024년 설문 조사에 따르면, AI를 활용한 악의적 공격과 AI를 활용한 허위 정보가 가장 큰 두 가지 위험으로 확인되었습니다.
Thales Group의 CEO, 패트리스 케인 씨.
우리가 걱정해야 할 이유는 많습니다. 아시아 태평양 국가들은 다양한 방법으로 AI를 도입하고 있습니다. 2023년 Finastra 설문 조사에 따르면, 베트남 금융 기관은 전 세계적으로 생성적 AI(genAI) 도입을 선도하고 있습니다. 베트남 응답자의 40%는 조직에서 생성 AI를 포함한 자연어 처리 기능을 구축하거나 개선했다고 답했습니다. 하지만 우리는 집단적 힘을 활용하지 않고서는 앞으로 나아갈 수 없습니다. 정부와 기업이 함께 협력하여 안전하고 회복력 있는 AI 생태계를 구축해야 합니다.
AI가 스스로 작업을 완료할 수 있는 추세가 확대됨에 따라 사이버 공격의 위험은 기하급수적으로 증가할 것입니다. 우려되는 점은 강력해야 할 일부 AI 시스템이 실제로는 매우 "취약"하다는 것입니다.
AI 시스템을 공격하는 주요 방법은 두 가지가 있습니다. 첫 번째 방법은 시스템을 해킹하여 개인 건강 기록부터 회사 영업 비밀까지 모든 것을 훔치는 것입니다. 해커는 의료 데이터베이스를 해킹하여 AI 모델을 속여 민감한 정보를 제공하거나, 챗봇을 속여 자체 데이터 보호 장치를 우회할 수 있습니다.
두 번째 방법은 모델을 방해하여 결과를 위험할 정도로 왜곡하는 것입니다. 예를 들어, AI 기술을 사용하는 자동차는 "정지" 표지판을 "100km/h" 속도 표지판으로 읽도록 속일 수 있습니다. AI를 사용할 때 발생할 수 있는 명백한 위험은 다음과 같습니다. AI 애플리케이션이 확장됨에 따라 시스템 공격의 위험도 확실히 증가할 것입니다.
하지만 이러한 위험을 피하기 위해 AI를 포기하는 것은 큰 실수가 될 것입니다. 보안을 위해 경쟁력을 희생하면 기업은 제3자에게 의존하게 되고, 빠르게 필수적이 되고 있는 기술에 대한 경험과 통제력이 부족해집니다.
AI는 빠르게 성장하고 있으며 많은 조직과 기업에서 적용되고 있습니다.
그러면 위험한 도박을 하지 않고도 AI의 이점을 얻으려면 어떻게 해야 할까요? 중요한 세 단계는 다음과 같습니다.
AI를 현명하게 선택하세요. 모든 AI 시스템이 취약한 것은 아닙니다. 예를 들어, 대규모 언어 모델은 대규모 데이터 세트와 통계적 방법에 의존하기 때문에 취약합니다. 하지만 상징적 모델이나 하이브리드 모델과 같은 다른 유형의 AI는 데이터 사용 범위가 좁고 명확한 규칙에 따라 작동하므로 해킹하기가 더 어렵습니다.
하이브리드 AI 모델은 기호 추론과 머신 러닝을 결합하여 논리적이고 정확한 설명을 제공합니다. 하이브리드 AI는 사기 탐지 시 오탐률을 크게 줄이는 동시에 의사 결정의 투명성을 높일 수 있습니다. 이는 해당 지역의 금융 서비스 및 핀테크 기업에 특히 귀중합니다.
검증된 보안 조치를 구현합니다. 디지털 워터마킹, 암호화, 맞춤형 학습과 같은 도구를 사용하면 잠재적 위협에 대비해 AI 모델을 강화할 수 있습니다. 아시아 태평양 지역에서 이러한 도구는 디지털 혁신이 가속화되고 있는 은행, 중요 인프라, 의료 등의 분야에 필수적입니다. Thales에서는 해커가 악용하기 전에 사이버보안 팀이 AI 모델을 철저히 테스트하여 취약점을 찾아 수정할 수 있는 "배틀 박스"를 보유하고 있습니다. 이러한 테스트 솔루션은 기업이 사이버 보안 위협이 증가하는 상황에서 시스템의 회복력을 평가하고 개선하는 데 도움이 됩니다.
조직의 사이버보안을 업그레이드하세요. AI는 고립되어 작동하지 않습니다. 조직의 정보 생태계의 일부입니다. 기존의 사이버 보안 조치는 AI 시대에 맞춰 강화되고 조정되어야 합니다. 이는 직원 교육부터 시작됩니다. 결국 인간의 실수는 모든 사이버 보안 시스템의 아킬레스건이기 때문입니다.
아시아 태평양 지역 전역에서 사이버보안 인력 부족 문제가 점차 커지고 있습니다. 기업은 AI 시스템의 보안을 위해 직원의 기술 향상에 투자해야 합니다. 예를 들어, 싱가포르의 사이버보안 인재 개발 프로그램은 지역적 기술 격차를 메우는 모델을 제공합니다.
일부 사람들은 AI에 대한 전쟁이 악당과 무지한 피해자 사이에 벌어지는 끊임없는 갈등의 일부일 뿐이라고 주장합니다. 하지만 이번에는 가격이 너무 비쌀 것이다. 아시아 태평양 지역의 기업과 정부가 AI 보안을 우선시하지 않으면 데이터 침해 위험이 있을 뿐만 아니라 경제 성장과 혁신도 저해됩니다.
가장 좋은 대응 방법은 AI 보안을 전략적 우선순위로 삼고 함께 협력하는 것입니다. 오직 그럴 때에만 우리는 AI가 그 잠재력을 최대한 발휘하여 사회를 안전하게 유지하는 동시에 새로운 형태의 성장과 혁신을 촉진할 수 있습니다.
호앙 푸옹
[광고_2]
출처: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/ai-canh-bac-may-rui-neu-thieu-cac-bien-phap-an-ninh-mang-phu-hop/20250115013404507
댓글 (0)