정보 보안이 위협받을 때 AI가 생성한 이미지에 주의하세요

급속한 기술 발전 시대에 인공지능(AI)을 활용한 이미지 제작 트렌드가 소셜 미디어 플랫폼에 확산되면서 많은 사용자, 특히 젊은 층의 관심을 끌고 있습니다. AI로 제작된 사진은 매우 창의적이며, 엔터테인먼트, 콘텐츠 개인화, 개성 표현 등의 목적을 달성합니다. 그러나 이러한 매력 뒤에는 보안 및 정보 보안에 대한 잠재적 위험이 도사리고 있습니다.

오락인가, 아니면 잠재적인 자극인가?

하노이 경찰에 따르면, 최근 인공지능(AI)을 활용한 이미지 생성 트렌드가 확산되고 있으며, 많은 사용자의 관심을 끌고 있습니다. 주로 오락 목적이지만, 이러한 이미지의 확산은 여러 잠재적 위험을 초래하여 정보 보안 및 안전에 직접적인 영향을 미칠 수 있습니다. 특히 8월 혁명 80주년과 9월 2일 국경일을 맞아 더욱 그렇습니다.

현재 사용자는 AI 소프트웨어를 통해 이미지에 쉽게 접근하고 생성하여 Zalo, TikTok, Facebook 등의 소셜 네트워크에서 아바타, 뉴스, 기사 등으로 활용할 수 있습니다. 그러나 사용자가 주의하지 않고 정치적으로 민감하지 않으며 AI가 생성하는 이미지를 제대로 관리하지 않을 경우, 호앙사 군도와 쯔엉사 군도에 대한 정보가 없는 베트남 지도 이미지와 같이 베트남 국민에게 적합하지 않은 부정확한 이미지를 사용할 수 있습니다. 이러한 부정확한 이미지 사용은 사이버 공간 여론에 큰 영향을 미치고 국경 주권 문제, 역사 및 국가 문화 전통에 대한 잘못된 인식을 형성할 수 있습니다.

AI가 호앙사-쯔엉사 군도가 빠진 베트남 지도를 인쇄한 아오자이 이미지를 생성합니다. (사진: 하노이시 경찰)

하노이의 한 소셜 미디어 사용자가 AI 소프트웨어를 사용하여 베트남 지도가 인쇄된 아오자이 사진을 만들어 틱톡에 게시하며 "국민 자부심" 열풍에 대응했습니다. 그러나 AI가 만든 이미지에는 호앙사 군도와 쯔엉사 군도가 누락되어 있었습니다. 이 게시물은 빠르게 퍼져나가며 수천 건의 조회와 공유를 기록했지만, 온라인 커뮤니티의 거센 반발에도 부딪혔습니다. 당국은 해당 콘텐츠 삭제를 요구하고 국가 주권 과 관련된 허위 정보 유포에 대해 경고했습니다.

당국의 경고

베트남 국가 사이버 보안 기술 회사(NCS)의 기술 이사인 부 응옥 썬(Vu Ngoc Son) 씨에 따르면, 최근 AI와 AI 기반 애플리케이션이 삶의 여러 영역에서 매우 빠르게 발전하고 있습니다. ChatGPT는 IT 전문가가 아닌 대부분의 사람들도 쉽게 접근할 수 있는 애플리케이션이어서 빠르게 인기를 끌었습니다.

기술적인 측면에서 ChatGPT는 기존의 다른 AI 기반 기술에 비해 획기적인 기술은 아니지만, 데이터 측면에서는 다양한 분야의 방대한 데이터를 기반으로 매우 성공적이었으며, 사용자들이 "모든 것을 안다"는 느낌을 받게 했습니다. 이것이 지금까지 ChatGPT의 매력이기도 합니다.

보안 측면에서 ChatGPT 자체는 질의응답 서비스를 제공하기 위해 만들어졌기 때문에 가장 큰 위험은 ChatGPT가 사용자에게 답변하는 콘텐츠가 누군가에 의해 조작되거나 "오염"되어 ChatGPT가 허위 정보를 제공하도록 하는 것입니다. 현재로서는 ChatGPT가 공격받을 수 있다는 증거가 없습니다. 입력 데이터는 이 회사에서 직접 통제, 검토, 심지어 라벨링까지 하고 있기 때문입니다. 따라서 위의 위험은 제한적입니다. 그러나 향후 이 서비스가 계속 확장되고 추가 입력 데이터에 대한 수요가 급격히 증가하면 데이터 통제 위험으로 인해 제조업체는 더욱 엄격한 보안 조치를 마련해야 할 것입니다.

AI 소프트웨어는 매력적이고 창의적인 이미지를 만드는 능력을 포함하여 많은 이점을 제공할 수 있지만, 무책임하게 사용하면 "양날의 검"이 될 수 있습니다. 하노이시 경찰청 사이버 보안 및 첨단 범죄 예방국은 다음과 같은 사항을 권고합니다.

1. 베트남 지도 이미지나 부정확한 이미지, 법적 규정을 위반하는 이미지, 베트남의 전통, 관습, 문화와 일치하지 않는 이미지를 절대 만들거나 사용하지 마십시오.

2. 가족, 친구, 그리고 지역 사회에 경고 정보를 정기적으로 공유하여 경각심을 높이고 적대 세력의 음모와 속임수를 예방하십시오. 국민들이 국가의 주요 정치 행사를 이용하여 불법 행위를 저지르지 않도록 하십시오.

3. 검증되지 않은 AI 애플리케이션을 설치하고 사용할 때는 개인 정보가 수집될 위험을 피하기 위해 주의하세요.

4. 소셜 네트워크 활동에 참여할 때 자신과 지역 사회에 대한 책임감을 가지세요.

위반 시에는 법률 규정에 따라 엄격히 처리됩니다.

사용자로서 각 개인은 사이버 공간에 참여할 때 명확한 책임감을 가져야 합니다. "트렌드 파악"이 무지나 의도치 않은 부정행위 옹호로 대체되어서는 안 됩니다. 언론의 임무는 단순히 뉴스를 보도하는 것뿐만 아니라 여론을 형성하고 진실과 국가적 가치를 수호하는 데 기여하는 것입니다.

출처: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html