미국 대선에 영향을 미치기 위해 AI(인공지능)를 이용해 가짜 정보를 만들어내는 것은 더 이상 우려할 일이 아니라 현실이 되었습니다. 1월 22일, 뉴햄프셔주 법무부는 일부 사람들이 지역 예비선거에 투표하지 말 것을 요청하는 조 바이든 대통령의 가짜 음성 녹음 파일을 받았다는 사실에 대한 공지를 게시했습니다.
AI 기반 딥페이크 기술을 이용해 제작된 이 녹음 파일은 유권자들에게 투표용지를 "저장"할 것을 촉구하며 "시민들의 투표가 다음 화요일이 아니라 11월에 변화를 가져올 것"이라고 주장합니다.
미국 조 바이든 대통령의 목소리가 유권자들에게 투표하지 말라고 촉구하기 위해 조작됐다.
블룸버그에 따르면, 음성 사기 감지 회사인 핀드롭 시큐리티(Pindrop Security)는 가짜 바이든 음성이 스타트업 ElevenLabs의 기술을 사용해 만들어졌다는 것을 발견했습니다. ElevenLabs는 인공지능 음성 생성기를 개발하는 데 특화된 AI 스타트업으로, 맥락에 따라 콘텐츠에 인간과 같은 억양을 추가할 수 있는 언어 모델을 사용합니다.
이 회사는 사용자가 선택하거나 직접 만들 수 있는 수천 개의 사전 제작된 AI 음성을 제공합니다. ElevenLabs는 웹사이트를 통해 딥페이크 기술로 제작된 정치인 들의 음성을 풍자, 캐리커처 등 특정 상황에 사용할 수 있다고 밝혔습니다.
"저희는 오디오 AI 도구의 오용을 방지하기 위해 최선을 다하고 있으며, 오용을 매우 심각하게 받아들이고 있습니다."라고 회사 측은 성명을 통해 밝혔습니다. 회사는 누군가 선거와 관련하여 조 바이든 대통령의 가짜 음성 클립을 제작했다는 사실을 발견한 직후 해당 계정을 정지했습니다.
카네기 멜론 대학교 컴퓨터 공학과 캐슬린 칼리 교수는 이 사건이 유권자 억압에 관한 "빙산의 일각"에 불과하다고 말했습니다. 칼리 교수는 "이 사건은 앞으로 일어날 수 있는 일의 전조일 뿐입니다."라고 강조했습니다.
[광고_2]
소스 링크
댓글 (0)