인공지능(AI)은 빠른 발전 속도로 의료, 교육 , 비즈니스에서부터 일상생활에 이르기까지 많은 분야를 혁신하고 있습니다. 그러나 이 기술의 단점은 사이버 공간의 정보 관리 및 통제에 상당한 어려움을 야기합니다.
인공지능이 만들어낸 가짜 뉴스로 넘쳐난다.
인공지능이 생성한 가짜 뉴스는 주로 소셜 미디어 플랫폼에서 조회수, 좋아요, 참여도를 높여 온라인 판매를 촉진하거나 플랫폼을 통해 수익을 창출하기 위해 퍼집니다.
가짜 뉴스를 유포하는 사람들은 종종 대중의 관심을 끄는 시사 문제를 이용합니다. 예를 들어, 9월 17일 꽝찌성 라오바오면 탄롱 시장에서 발생한 심각한 교통사고로 12명이 사망한 후, 소셜 미디어에는 많은 사람들의 눈물을 자아내는 가슴 아픈 사진들이 퍼졌습니다. 라오바오면 경찰은 이러한 사진들이 인공지능(AI)에 의해 만들어진 것임을 확인하고, 이러한 허위 정보 유포에 대해 경고했습니다. 이러한 행위는 허위 정보를 퍼뜨릴 뿐만 아니라 수사를 방해합니다.
마찬가지로, 지난 7월 19일 꽝닌성 하롱베이에서 발생한 그린베이 58호관광선 전복 사고로 수십 명이 사망한 가운데, 당시 큰 관심을 끌었던 소셜 미디어 계정들이 희생자들에 대한 애틋한 이미지와 사연들을 게시했습니다. 그러나 이러한 콘텐츠의 상당 부분은 인공지능(AI)을 이용해 감정을 조작하고 소셜 미디어 사용자들의 참여를 유도하기 위해 만들어진 가짜였습니다. 특히, 과장된 동정심을 조장하는 가짜 이미지의 확산은 희생자 유가족들에게 더 큰 정신적 충격을 줄 수 있습니다.
인공지능 기술이 끊임없이 발전함에 따라, 이제 단 몇 분 만에 간단한 명령만으로 사용자의 의도에 완벽하게 부합하는 매력적인 콘텐츠의 영상을 제작할 수 있습니다. 특히 클링아이(KlingAI), 베오3(Veo 3), 소라(Sora)와 같은 차세대 인공지능 플랫폼은 베트남을 포함한 전 세계 사용자들에게 큰 인기를 얻고 있습니다.
더욱이, 딥러닝과 조작을 결합한 딥페이크 기술은 전 세계적으로 큰 우려를 낳고 있습니다. 이 기술을 이용해 실제처럼 보이는 이미지, 소리, 영상을 만들어내면 가짜임을 알아채기가 매우 어렵기 때문입니다. 그 결과, 베트남을 비롯한 전 세계에서 이 기술과 관련된 수많은 사기 사건이 발생하고 있습니다.
국가사이버보안협회 상임부회장인 응우옌 민 찐 중장은 불법적인 목적으로 인공지능(AI)을 악용하는 사례가 증가하고 있다고 지적했습니다. 특히, 사이버 범죄자들이 서비스형 AI(AI 기반 도구 및 애플리케이션)를 악용하여 악성 소프트웨어를 제작하고, 음성, 얼굴, 텍스트를 위조하는 등 사기, 사이버 공격, 데이터 시스템 침입은 물론 조직, 기업, 지도자의 보안을 불안정하게 만들고 명예를 훼손하는 데 사용하고 있다는 것입니다.
호아빈 사이버 공간 유한회사(CyPeace)의 기술 이사인 쩐 응옥 안 씨에 따르면, AI 사용자가 직면하는 위험 중 하나는 AI 도구 자체에서 생성된 잘못된 정보를 접할 가능성입니다. 이 외에도 기밀 정보 및 개인 데이터 유출과 같은 다양한 문제가 존재합니다.
온라인상에서 "보는 사람들을 울리기 위해" 가짜 이미지가 유포되고 있으며, 이를 통해 좋아요와 상호작용이 증가하고 있습니다(스크린샷).
사용자 책임 강화
인공지능의 개발과 사용을 엄격하게 통제할 수 있는 기술적, 법적 조치가 마련되기 전까지는 사용자들이 이 기술을 책임감 있게 적극적으로 활용해야 합니다.
국가사이버보안협회 기술위원회 위원장이자 사이버보안 전문가인 부 응옥 손은 인공지능(AI)을 활용하고 사용하는 주체가 인간이므로 AI의 긍정적인 측면과 부정적인 측면 모두 인간과 밀접하게 연결되어 있다고 지적했습니다. 사용자가 숙련된 기술을 활용하여 선한 목적으로 사용한다면, 기술은 그 강점을 최대한 활용하여 사용자에게 이점을 제공할 것입니다. 반대로 AI 사용자가 AI에 대한 이해가 부족하거나 불법적인 목적으로 악용할 경우 심각한 결과를 초래할 수 있습니다. 그는 "AI를 효과적으로 사용하고 활용하기 위해서는 팀과 프로세스 구축에 집중해야 합니다. AI는 그것을 숙달할 줄 아는 사람의 손에 있을 때 비로소 그 가치를 발휘합니다."라고 말했습니다.
딥페이크 기술은 현재 사이버 사기를 조장하는 주요 도구로서 심각한 위험성을 내포하고 있습니다. 이에 재정부는 투자·사업법 초안 작성 과정에서 정보 왜곡 및 사기를 유발하는 기술 오용을 방지하기 위해 딥페이크 기술 관련 사업을 조건부 사업 분야로 규제해야 한다고 강조했습니다. 재정부에 따르면, 딥페이크 기술 관련 사업은 안보와 질서에 복합적인 잠재적 위험을 내포한 새로운 분야 중 하나이지만, 현재 조건부 사업 분야로 규제되지 않고 있습니다.
하노이 변호사협회 소속 트란 안 뚜안 변호사에 따르면, 허가 없이 인공지능(AI)을 이용해 콘텐츠를 제작하는 행위, 특히 허위, 조작 또는 사기성 정보를 만들어내는 행위는 민법 조항을 위반할 수 있습니다. 위반자는 행정 처벌이나 손해 배상 책임을 질 수 있으며, 심각한 결과를 초래하는 경우에는 형사 처벌을 받을 수도 있습니다. 뚜안 변호사는 "사용자는 AI에 접근하고 사용할 때 신중해야 하며, 조회수나 좋아요를 얻기 위해 AI를 악용하는 행위는 절대 삼가야 합니다. AI를 사용하고 온라인 환경에 참여할 때는 개인적인 책임을 다하고 법을 준수해야 합니다."라고 조언했습니다.
응우옌 민 찐 중장은 지속 가능한 AI 개발의 핵심 요소는 인적 자원이라고 강조했습니다. 연구원, 엔지니어, 사이버 보안 전문가부터 관리자와 사용자까지 모두가 지식, 기술, 윤리 및 법률 인식을 완비해야 한다고 말했습니다. 그는 이러한 인적 자원이 AI 시스템을 구축하고 운영하는 팀일 뿐만 아니라 사이버 공간에서 발생하는 첨단 범죄를 예방, 탐지 및 퇴치하는 데 핵심적인 역할을 한다고 설명했습니다.
베트남은 인공지능에 관한 법률을 제정할 것입니다.
최근 열린 인공지능(AI) 관련 전국 학술대회에서 응우옌 만 훙 과학기술부 장관은 AI가 큰 기회를 제공하지만 윤리, 고용, 사회적 신뢰와 관련된 많은 문제점도 제기한다고 밝혔습니다. 따라서 AI 개발은 신속하고 안전하며 인간적인 방식으로 이루어져야 합니다.
응우옌 만 흥 장관에 따르면, 인공지능(AI)은 인간을 대체하는 것이 아니라 인간을 보조하는 역할을 하는 것입니다. AI는 강력한 도구이지만, 최종 결정권자는 인간이므로 AI는 인간의 사고, 가치관, 책임을 대체하는 것이 아니라 지원해야 합니다. 응우옌 만 흥 장관은 "과학기술부는 국제 기준에 부합하면서도 베트남의 현실에 맞는 국가 AI 윤리 강령을 발표하고, AI 관련 법률과 AI 전략을 수립할 것"이라고 밝혔습니다.
출처: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm
댓글 (0)