유럽연합 경찰기구(유로폴)에 따르면, 인공지능(AI)은 마약 밀매, 인신매매, 사이버 범죄, 신분 도용 등 여러 분야에서 범죄자들이 더욱 효과적으로 범죄를 저지르도록 "의도치 않게" 도왔다. 유로폴 자문위원인 브루스 슈나이어 기술 전문가는 "AI는 범죄자들을 그 어느 때보다 더 위험하게 만들고 있다. 기존의 신원 확인 방식으로는 딥페이크에 효과적으로 대응할 수 없다"고 지적했다.
유로폴의 CEO인 카트린 드 볼레는 "조직 범죄는 점점 더 정교해지고 있으며, 인공지능과 신기술의 등장으로 온라인상에서 더욱 공격적으로 활동하고 있습니다. 기술을 이용해 범죄를 저지르는 자들과 기술을 이용해 범죄와 싸우는 자들 사이의 경쟁이 벌어지고 있습니다. 우리는 법 집행이 항상 최전선에 서도록 해야 합니다."라고 경고했습니다.
올해 2월 중순, 프랑스 파리에서 AI 액션 서밋이 개최되었습니다. 이 행사는 AI 산업의 중대한 변화, 특히 세계 시장에 상당한 영향을 미칠 것으로 예상되는 새로운 AI 모델의 등장이라는 배경 속에서 열렸습니다. 에마뉘엘 마크롱 프랑스 대통령은 서밋에서 오픈소스 AI 모델의 확산, AI 분야의 사업 개발 촉진, 그리고 사이버 범죄의 효과적인 대응을 위한 협력을 희망한다고 밝혔습니다.
이번 회의에는 에마뉘엘 마크롱 프랑스 대통령, 나렌드라 모디 인도 총리 , JD 밴스 미국 부통령을 비롯해 오픈AI CEO, 마이크로소프트 회장, 구글 CEO 등 실리콘 밸리의 주요 인사들이 대거 참석했다.
지구공학 전문가 닉 라이너스는 이번 컨퍼런스가 이 분야의 글로벌 경쟁 구도를 재편하고 인공지능을 악용한 첨단 범죄와의 전쟁에서 협력을 강화할 수 있는 기회가 될 수 있다고 믿는다.
인공지능(AI)은 개발의 트렌드가 되었고, 좋든 싫든 어느 나라도 이 경쟁에서 벗어날 수 없습니다. 하지만 우려도 여전히 남아 있습니다. 2025년 1월 말 스위스 다보스에서 열린 세계 경제 포럼에서는 AI 개발에 대한 논의가 큰 주목을 받았습니다.
특히 안토니오 구테레스 유엔 사무총장은 인류를 위협하는 두 가지 주요 문제, 즉 기후 위기와 통제되지 않은 인공지능(AI) 개발에 대해 강력히 경고했습니다. 그는 각국에 기후 변화 완화 및 최악의 영향 방지를 위한 시급한 조치를 촉구했습니다. 인공지능과 관련하여 구테레스 사무총장은 AI가 많은 이점을 제공하지만, 제대로 관리되지 않을 경우 심각한 위험을 초래할 수 있다고 강조했습니다. 그는 통제되지 않은 AI가 기만 도구로 악용되고, 경제를 교란하며, 제도에 대한 신뢰를 약화시킬 수 있다고 경고했습니다. 또한 많은 사람들이 이 기술의 혜택을 받지 못하게 되어 불평등을 심화시킬 수도 있다고 지적했습니다.
이어서 유엔 사무총장은 기후 위기부터 인공지능 개발 관리까지 다양한 문제에 대처하기 위한 국제적 협력을 촉구했습니다.
한편, 전문가들은 인공지능(AI)이 인류 역사상 그 어떤 기술보다도 더 큰 변화를 가져올 것이라고 예측합니다. 샌프란시스코에 본사를 둔 스타트업 런웨이(Runway)의 CEO인 시치 첸 박사는 전기에서 인터넷에 이르기까지 이전의 기술 발전들이 이미 사회에 극적인 변화를 일으켰다고 주장합니다. 그러나 AI의 영향은 훨씬 더 강력할 것이라고 말합니다. 첸 박사는 "AI로 인해 인류 사회는 역사상 그 어떤 기술적 변화보다도 더 큰 규모의 변화를 경험하게 될 것"이라고 말하면서도, "흥미로운 변화이면서 동시에 두려운 변화, 마치 양날의 검과 같은 변화"라고 경고했습니다.
마이크로소프트의 핵심 리더인 재러드 스파타로 박사에 따르면, 인공지능은 긍정적인 측면을 극대화하고 부정적인 측면을 최소화한다면 "업무의 핵심"으로 여겨질 수 있습니다. 특히, 사이버 범죄자들이 인공지능을 악용하거나 통제해서는 안 됩니다.
인공지능 회사 공동 창업자인 샤론 저우는 이러한 기술이 "우리가 감당할 수 있는 속도보다 훨씬 빠르게 우리에게 다가올 수 있다"고 말했습니다. 따라서 위험을 피하기 위해서는 이 기술을 숙달하는 것이 필수적인 전략이 되어야 한다고 강조했습니다. 저우는 이러한 기술이 인류의 미래에 대한 질문을 던진다고 지적했습니다. "만약 우리보다 더 강력하고 똑똑한 무언가가 다가온다면, 그것은 우리에게 무엇을 의미할까요? 우리가 그것을 이용해야 할까요, 아니면 그것이 우리를 이용해야 할까요?"
따라서 보안은 "필수적인 과정"이라고 오픈AI의 수석 과학자 인 일리야 수츠케버는 MIT 테크놀로지 리뷰와의 인터뷰에서 밝혔습니다. 그녀는 악의적인 세력이 인공지능을 악용할 경우 국제 질서 자체가 위협받을 수 있다고 지적했습니다.
유엔 사무총장 안토니오 구테레스는 "모두가 안전해질 때까지 누구도 안전하지 않다"라고 말했습니다. 인공지능이 폭발적으로 성장하는 오늘날, 이 말은 더욱 더 중요한 의미를 지닙니다. 첨단 기술을 이용한 범죄와의 싸움은 모두의 책임이기 때문입니다.
디지털 시대에 인공지능(AI)이 폭발적으로 성장하면서 범죄의 세계 또한 기술 발전과 발맞춰 빠르게 변화하고 있으며, 이는 전례 없는 수준의 안보 위협을 야기하고 있습니다. 사이버 보안 기업 팔로알토 네트웍스의 보고서에 따르면, 전 세계 랜섬웨어 공격은 2023년 대비 2024년에 47% 증가하여 300억 달러 이상의 손실을 초래할 것으로 예상됩니다. 공격자들은 더 이상 데이터만을 노리는 것이 아니라, 금전적 이득을 위해 핵심 시스템을 장악하는 것도 목표로 삼고 있습니다. 이는 더 이상 단순한 금전적 문제를 넘어 국가 안보에 대한 심각한 위협이 되고 있습니다. 게다가, 최신 AI 기술을 이용해 목소리나 이미지를 변조하는 딥페이크 통화 또한 상당한 피해를 초래하고 있습니다. 유럽연합 경찰기구(유로폴) 보고서에 따르면, 딥페이크 사기는 지난 2년간 300% 증가했습니다.
[광고_2]
출처: https://daidoanket.vn/an-toan-trong-thoi-dai-cong-nghe-cao-10302564.html
댓글 (0)