인공지능이 미국 선거에 '위협'이 되고 있다.

인공지능 전문가들과 기술에 정통한 정치 학자들은 2024년 미국 대선을 앞두고 ChatGPT와 같은 인공지능 생성 도구의 예측 불가능한 특성에 대해 경고하고 있습니다.

"미국은 그에 대비되어 있지 않습니다."

폭스 뉴스는 5월 15일, 미네소타에 본사를 둔 사이버 보안 회사 제로폭스의 인공지능 담당 부사장인 AJ 내쉬가 미국인들에게 생성형 인공지능에 대처할 준비가 되어 있지 않다고 경고했다고 보도했습니다. 내쉬에 따르면, 생성형 인공지능은 선거 운동을 위한 이메일, 문자 메시지, 비디오 클립을 빠르게 제작할 뿐만 아니라 위험한 도구로 변질될 수도 있다고 합니다.

전 세계 정부들이 인공지능 도구를 규제할 방법을 찾기 위해 경쟁하고 있다.

"생성형 AI는 오디오 및 비디오 콘텐츠 제작 능력을 획기적으로 향상시킵니다. 이를 대규모로 제작하고 소셜 미디어 플랫폼에 배포할 수 있다면, 이 기술은 엄청난 파급 효과를 가져올 것입니다."라고 내쉬는 설명했습니다. ChatGPT와 같은 생성형 AI가 구현할 수 있는 다양한 기능 중에는 미국과 같은 현대 국가의 선거 및 투표에 강력한 영향을 미칠 수 있는 기능들이 상당수 있습니다.

ChatGPT는 짧은 시간 안에 많은 콘텐츠를 생성할 수 있습니다.

삽화 사진: 로이터

예를 들어, ChatGPT는 후보자의 목소리를 흉내 낸 자동 음성 메시지를 생성하여 유권자들에게 잘못된 날짜에 투표하도록 유도하거나, 후보자가 범죄를 자백하거나 인종차별적인 내용을 유포하는 가짜 음성 녹음을 배포하고, 실제로는 일어나지 않은 연설이나 인터뷰를 하는 것처럼 꾸민 영상 클립을 만들어낼 수 있습니다. 또한, 지역 뉴스 보도를 기반으로 컴퓨터로 생성된 이미지가 나타나 후보자가 선거에서 사퇴했다는 등의 오해를 불러일으킬 수도 있습니다.

미국 워싱턴주에 위치한 인공지능 연구소인 앨런 연구소의 설립자 겸 최고경영자였던 오렌 에치오니 박사는 "억만장자 일론 머스크가 직접 전화를 걸어 특정 후보에게 투표하도록 설득한다면 어떻게 되시겠습니까?"라고 질문했습니다. "많은 사람들이 그의 말을 들을 것입니다. 하지만 그 전화를 건 사람은 머스크가 아니라 인공지능입니다."라고 에치오니 박사는 지적했습니다.

상대편의 위협.

미국 텍사스에 본사를 둔 사이버 보안 회사 포스포인트의 글로벌 최고 기술 책임자(CTO)인 페트코 스토야노프는 외국 세력이 인공지능(AI)을 악용해 2024년 미국 대선을 방해하려 할 수 있다고 경고했습니다. 그는 "만약 외국 세력, 사이버 범죄 조직, 또는 국가가 누군가를 사칭하려 한다면 어떻게 될까요? 그 영향은 무엇일까요? 우리는 대응책을 마련해 놓았을까요?"라고 질문했습니다. 스토야노프는 미국 대선 기간 동안 외국발 허위 정보가 쏟아져 나올 것이라고 예측했습니다.

피트 리켓츠 상원의원(네브래스카주)은 2024년 대선 기간 동안 친중 단체들이 딥페이크(실제 인물과 사건처럼 보이도록 조작된 이미지와 영상을 만드는 기술)를 이용할 위험성을 경고했습니다. 리켓츠 의원은 폭스 뉴스와의 인터뷰에서 "그들은 분명히 이러한 능력을 가지고 있으며, 우리는 이를 매우 경계해야 한다"고 말했습니다.

올해 초부터 인공지능(AI)이 생성한 가짜 뉴스가 소셜 미디어에서 끊임없이 논란을 일으켰습니다. 예를 들어 바이든이 트랜스젠더를 공격하는 내용의 가짜 영상이나, 아이들이 도서관에서 사탄주의를 공부하는 모습을 담은 조작된 이미지 등이 있습니다. 심지어 많은 사람들은 도널드 트럼프 전 대통령이 범죄를 저지르는 모습이 담긴 사진이 경찰 기록에 등장했다는 인터넷상의 주장을 맹목적으로 믿기도 했습니다. 트럼프가 체포에 저항하는 모습을 담은 AI 생성 이미지 역시 모두 가짜였습니다.

뉴욕주 하원의원 이벳 클라크는 인공지능으로 생성된 광고 이미지에 대해 후보자들이 유권자들에게 알리도록 의무화하는 법안을 발의했습니다. 또한 클라크 의원은 합성 이미지를 제작하는 모든 사람이 이미지 출처를 명확히 표시하는 워터마크를 추가하도록 하는 법안을 공동 발의했습니다. 여러 주에서도 딥페이크에 대한 우려를 해소하기 위해 자체적인 법안을 도입했습니다.

반면 리켓츠 상원의원은 지금 당장 할 수 있는 일은 인공지능이 생성한 이미지의 위험성에 대해 미국인들을 교육하는 것이라고 제안했습니다. 그는 미국 정부가 선거 전에 가짜 이미지를 탐지하는 능력을 향상시키기 위해 대학들과 협력할 수 있다고 주장했습니다.

ChatGPT가 업그레이드되었습니다.

Mashable에 따르면, OpenAI(미국 캘리포니아)는 ChatGPT를 대폭 업그레이드하여 실행 중에도 웹에 연결하고 탐색할 수 있도록 했습니다. 이를 통해 ChatGPT는 최신 정보를 업데이트하고 더욱 정확한 답변을 제공할 수 있게 되었습니다. 현재 아마존과 같은 기업들은 고객 소통을 위해 ChatGPT와 같은 인터페이스를 구축하고 통합할 AI 엔지니어를 채용하고 있습니다.

출처 링크: https://thanhnien.vn/ai-tao-sinh-de-doa-bau-cu-my-18523051612541231.htm