AI의 급속한 발전은 전 세계적으로, 특히 베트남에서 큰 주목을 받고 있습니다. 전문가들은 AI를 4차 산업혁명의 가장 중요한 요소로 평가하며, 베트남 경제 발전에 막대한 혜택과 획기적인 발전을 가져올 것으로 기대합니다. 컨설팅 회사 Exactitude Consultancy에 따르면, 2024년 2월 기준 보안, 공공 안전, 국가 안보를 위한 글로벌 AI 시장 규모는 2023년 114억 3천만 달러에서 2030년 473억 2천만 달러로 증가할 것으로 예상됩니다.

AI는 많은 분야에 폭넓게 적용되고 있으며, 정보 제공, 중요 인프라 관련 상황에 대한 지능적 예측, 위기 상황에 대한 시기적절한 예측 등의 이점을 제공하는 반면, 이 기술은 많은 위험과 과제도 안고 있습니다.

모든 형태의 사이버 공격에 AI가 적용될 수 있습니다.

AI가 사회, 법률, 사이버 보안에 미치는 위험과 과제는 5월 30일 정보 통신부 후원으로 정보보안부가 IEC와 협력하여 주최한 "인공지능 폭발 시대의 안전" 이라는 주제로 열린 베트남 사이버 보안 정상회의 2024 컨퍼런스 및 전시회 에서 구체적으로 언급되었습니다.

W-KIN_4888.JPG.jpg
공안부 사회질서행정경찰국 국가인구데이터센터 부소장 응우옌 아인 투안 씨가 워크숍에서 발표를 하고 있다. 사진: 조직위원회

국가인구데이터센터 부소장인 응우옌 안 투안 중령(공안부 사회질서행정경찰국)에 따르면, 사회적으로 AI는 개인정보 침해에 대한 우려를 불러일으킨다. AI는 인종, 계층, 성별, 민족에 대한 차별에 이용되어 더욱 심각한 갈등과 모순을 야기한다. 또한 허위 정보를 제공하고, 개념을 바꾸고, 역사를 바꾸고, 진실을 왜곡하고, 여론을 교란하고, 교육과 문화에 영향을 미친다.

데이터를 직접 다루는 응우옌 투안 아인 씨는 "베트남 각 부처, 부서, 지부가 전문적인 업무를 위해 자체 데이터 소스를 개발했지만, 데이터 합성, 활용, 평가에는 여전히 많은 제약이 있으며, 특히 정확성과 완전성이 거의 보장되지 않습니다."라고 말했습니다. 한편, AI 시스템은 양질의 입력 데이터가 있을 때만 제대로 작동합니다. 입력 데이터가 부정확하거나 부정확하면 부정확한 AI 분석 결과나 "차별적"이고 불공정한 예측으로 이어질 수 있습니다.

법률 및 정책 측면에서 legalnodes.com의 통계에 따르면 약 33개국이 AI 관련 법률 문서를 작성했지만, 여전히 제한적이며 공통적이고 포괄적인 AI 표준을 갖추고 있지 않습니다. 국가는 두 가지 유형으로 나뉩니다. 현행 법률을 개정하고 AI를 각 분야에 통합하는 것과 AI를 포괄적으로 규제하는 법률 문서를 제정하는 것입니다. 베트남은 접근 단계에 있으며 AI 관련 구체적인 정책, 법률 문서 또는 제도를 갖추고 있지 않습니다.

사이버 보안과 관련하여, 오늘날 모든 형태의 사이버 공격은 AI를 활용하여 공격자의 주도권을 강화하고 더욱 심각한 피해를 초래할 수 있습니다. 악성 파일, 시뮬레이션, 사기, 대규모 서비스 거부 공격, 머신러닝 등을 통한 공격 등이 있습니다. 현재 인터넷 네트워크 시스템 외에도 각 부처, 지부, 지방자치단체는 자체 네트워크를 보유하고 있으며, 무단 접근 등 공격이 발생하고 있으며, AI를 적용하여 공격의 규모와 수위를 더욱 높일 수 있습니다.

AI를 사용하여 AI 위험 완화

국가인구데이터베이스의 실제 관리 및 구현을 통해 공안부 대표는 AI 위험을 최소화하기 위한 세 가지 솔루션을 제안했습니다.

첫째, AI 관련 법률 체계를 조속히 정비하여 추세를 예측하고, AI 개발·생산·응용 과정에서 국내외 단위의 개인정보, 개인정보, 인권 보호 등 윤리를 규정하는 문서를 발행한다.

응우옌 안 투안(Nguyen Anh Tuan) 씨는 "베트남에는 개인정보 보호 법령이 있지만, 실제 적용은 데이터 보안 및 안전 보장 요건을 충족하지 못하고 있다"고 말했습니다. 따라서 그는 데이터법 또는 개인정보 보호법 제정을 제안했습니다. 또한, AI 관련 범죄에 대한 규정을 더욱 명확하게 하고, AI 관련 연결, 공유 및 교환 플랫폼에 대한 구체적인 기준을 마련해야 합니다.

둘째, AI 위험에 대응하기 위해 AI 프로젝트를 연구하고 적용해야 합니다. AI는 인간에 의해 만들어지고 지식의 산물이므로 "좋은 AI"와 "나쁜 AI"의 차이가 있을 것입니다. AI 개발을 막기 위해 AI 자체를 활용할 수 있습니다.

셋째, 심각한 결과를 초래할 수 있는 공격과 통제권 탈취를 방지하기 위해 AI 개발은 사이버 보안 및 정보 보안 문제와 긴밀히 연계되어야 합니다. 하지만 각 부서의 정보 보안에 대한 관심 수준은 아직 충분하지 않습니다.

사회질서를 담당하는 행정경찰부에서는 시스템의 보안과 안전을 유지하고, 철저한 준비를 하고, 정기적으로 데이터를 백업하고 복구하고, 주기적으로 사고 대응 훈련을 실시하여 의도적인 AI 공격에 대처할 준비를 해야 합니다.

정보의 활용 및 처리 과정에서 이상행위 및 개인정보보호법 위반행위를 적시에 감지하기 위해 연계과정 및 부서 간 정보공유에 대한 모니터링과 감독을 강화합니다.

마지막으로, 로그 모니터링, 네트워크 트래픽 분석에 AI를 구축하고 적용하고, 머신 러닝과 자연어를 결합하여 문제 해결 결정을 내릴 때 정확성을 높입니다.