톰 행크스, 개인 인스타그램에 AI가 생성한 가짜 이미지 올라와
가디언 에 따르면, 배우 톰 행크스는 최근 치과 광고에 나온 자신의 이미지가 가짜이며 인공지능(AI)을 이용해 만들어졌다고 팬들에게 경고했습니다. 영화 '포레스트 검프'의 스타 톰 행크스 는 950만 명의 팔로워에게 인스타그램을 통해 "조심하세요! 제 AI 이미지가 등장하는 치과 광고 영상이 있습니다. 저는 이 프로젝트와 아무런 관련이 없습니다."라고 게시했습니다.
인스타그램 모회사인 메타(Meta)의 대변인은 뉴욕 타임스 에 보낸 이메일에서 해당 광고에 대해 직접적인 언급은 하지 않았지만, 사기 목적으로 유명인 이미지를 사용하는 광고는 커뮤니티 정책 위반이라고 밝혔습니다. 대변인은 "이러한 유형의 사기에 대응하기 위해 상당한 자원을 투입했으며, 정책을 위반하는 계정, 페이지, 광고를 정지 및 삭제하는 등 단속을 대폭 강화했습니다."라고 덧붙였습니다.
이전에 유명 소셜 네트워크 페이스북의 CEO인 마크 저커버그 역시 이 기술의 희생자였습니다. 그의 간단한 연설을 통해 AI 기술은 페이스북이 사용자 데이터를 훔치고 미래를 통제하고 있음을 인정하는 내용의 영상을 만들어냈습니다. 이 영상에서 마크 저커버그의 목소리를 흉내 낸 AI는 그다지 유사하지는 않지만, 여전히 식별하기가 매우 어렵습니다.
미국에서는 최근 전화로 들려온 가짜 목소리 때문에 한 어머니가 딸이 남성에게 납치당했다고 착각하는 사건이 발생했습니다. 애리조나에 사는 제니퍼 드스테파노 씨는 최근 딸이 전화로 흐느끼는 소리를 듣다가 한 남성이 전화를 끊고 몸값을 요구했습니다. 어머니는 스키를 타던 딸이 납치당했다고 100% 확신했습니다. "누군지 전혀 의심하지 않았어요. 딸 목소리였거든요. 평소에 그렇게 울었기 때문에 아무것도 의심하지 않았어요."라고 그녀는 말했습니다. 사기꾼은 알려지지 않은 전화번호를 사용했고 최대 100만 달러의 몸값을 요구했습니다. 이 AI 사기는 드스테파노 씨가 딸에게 연락한 지 몇 분 만에 드러났습니다. 현재 경찰이 수사 중인 이 사건은 사이버 범죄자들이 AI의 음성 생성 능력을 악용할 위험성을 시사합니다.
최근 질베르 치클리라는 사기꾼은 프랑스 외무 장관 장이브 르드리앙을 사칭하여 시리아 내 프랑스 인질 석방을 위해 부유층과 기업 임원들에게 몸값을 요구한 혐의로 재판을 받았습니다. 인도 여성 기자 라나 아이유브는 포르노 영상에 얼굴을 이식한 후, 범죄자들이 이 가짜 영상을 이용해 그녀를 협박했습니다.
미국 사이버 보안 회사 맥아피(McAfee)는 최근 "인공 사칭자(Artificial Impersonators)"라는 설문조사 결과를 발표했습니다. 이 설문조사에 따르면 많은 사람들이 실제 목소리와 가짜 목소리를 구분하지 못하는 것으로 나타났습니다. 미국과 인도를 포함한 9개국 7,054명을 대상으로 진행된 이 설문조사는 많은 사람들이 AI 음성 생성 기술에 속거나 피해를 입었다는 사실을 알고 있음을 보여주었습니다. 약 70%는 실제 목소리와 AI가 생성한 목소리를 구분하는 데 자신이 없다고 답했습니다.
로이터 통신 에 따르면, 안토니오 구테흐스 유엔 사무총장은 일부 AI 기업 대표들이 제안한 국제 AI 감독 기구 설립을 지지했습니다. 그는 "최신 AI인 생성 AI에 대한 경각심은 이를 설계한 개발자들이 가장 크게 느끼고 있습니다. 우리는 이러한 경고를 심각하게 받아들여야 합니다."라고 말했습니다. 또한 그는 올해 고위급 AI 자문 기구를 출범시킬 계획이라고 발표했습니다.
Organizer 매거진에 따르면, Blackbird.AI Company(미국)의 CEO인 와심 칼레드 씨는 AI를 이용해 음성을 모방하는 기술이 이제 실제 음성과 거의 구별할 수 없을 정도라고 밝혔습니다. 그는 "이 기술은 사기꾼들이 피해자에게서 돈과 정보를 더 효과적으로 빼내는 데 도움이 됩니다."라고 말했습니다.
캘리포니아 대학교(미국)의 하니 파리드 교수는 "이제는 온라인에서 활동하는 거의 모든 사람이 피해자가 될 수 있을 만큼 현실적인 목소리를 내는 것이 매우 쉬워졌습니다."라며 이러한 사기가 점점 더 흔해지고 있다고 경고했습니다.
이스라엘 사이버 보안 회사 Team8의 기술자인 갈 탈-호흐버그는 온라인에서 보는 모든 것을 믿을 수 없는 지경에 빠르게 다가가고 있다고 생각합니다. 그는 "대화 상대가 진짜인지 확인할 수 있는 새로운 기술이 필요할 것입니다."라고 말했습니다.
타이안
[광고_2]
원천
댓글 (0)