AI가 생성한 테일러 스위프트의 음란 사진, 잘못된 정보 우려 제기

[광고_1]

소셜 미디어 사이트 X(구 트위터)에서 AI가 생성한 테일러 스위프트의 성적으로 노골적인 포즈를 담은 가짜 이미지가 수천만 건의 조회수를 기록했습니다. 해당 이미지는 현재 소셜 미디어 플랫폼에서 삭제되었지만, 인터넷상의 어떤 것도 완전히 사라진 것은 아니며, 규제가 덜한 다른 플랫폼에서도 계속해서 공유될 가능성이 높습니다.

테일러 스위프트의 비난과 허위 정보는 당혹스럽습니다. 이미지 1 — 오늘날 세계에서 가장 유명한 스타로 손꼽히는 가수 테일러 스위프트. 사진: 게티 이미지

대부분의 주요 소셜 미디어 플랫폼과 마찬가지로 X의 정책은 "사람들을 오도하거나 혼란스럽게 하여 해를 끼칠 수 있는 합성적, 조작적 또는 맥락 없는 미디어"를 공유하는 것을 금지합니다.

이 사건으로 인해 AI에 대한 우려가 제기되었는데, 악의적인 행위자가 AI를 이용해 오해의 소지가 있는 이미지와 비디오를 만들어 광범위한 잘못된 정보를 퍼뜨릴 수 있기 때문입니다.

디지털 포렌식 기관인 미메티카(Memetica)를 운영하는 벤 데커는 "이는 AI가 적절한 안전장치 없이 악의적인 목적으로 사용되고 있는 전형적인 사례입니다."라고 말했습니다. "유명인을 표적으로 삼는 악성 콘텐츠를 제작하기 위해 창의적인 AI 도구를 악용하는 사례가 소셜 미디어에서 빠르게 증가하고 있으며 그 어느 때보다 빠르게 확산되고 있습니다."

"소셜 미디어 기업들은 콘텐츠 모니터링에 대한 효과적인 계획을 갖고 있지 않습니다."라고 그는 말했습니다. 예를 들어 X는 콘텐츠 관리 직원 대부분을 해고하고 자동화된 시스템과 사용자 신고에만 의존하고 있습니다. Meta 또한 플랫폼 내 허위 정보 및 괴롭힘을 처리하는 팀을 감축했습니다.

이 사건은 ChatGPT와 Dall-E와 같은 AI 도구의 폭발적인 증가와도 맞물려 발생했습니다. 데커는 이러한 도구와 더불어 오픈소스 플랫폼에서 검증되지 않은 작업에 대한 안전하지 않은 AI 모델도 증가했다고 말했습니다.

"이는 AI 기업, 소셜 미디어 기업, 규제 기관, 그리고 시민 사회 간의 콘텐츠 관리 및 플랫폼 거버넌스에 심각한 균열이 있음을 보여주는 신호입니다. 이러한 균열을 해결하는 방법에 대해 모두가 합의하지 않는 한, 이러한 유형의 가짜 콘텐츠는 계속해서 확산될 것입니다."라고 그는 덧붙였습니다.

하지만 데커는 세계 최고의 유명인 테일러 스위프트가 가짜 콘텐츠의 표적이 되면서 AI가 생성한 이미지를 둘러싼 심화되는 문제에 대한 관심이 더욱 높아질 수 있다고 말했습니다. 이번 주, 전 세계 테일러 스위프트의 엄청난 팬덤은 소셜 미디어를 통해 분노를 표출하며 이 문제가 최대 관심사로 떠올랐습니다.

데커는 테일러 스위프트와 같은 영향력 있는 인물이 AI의 희생자가 되면, 국회의원과 기술 회사들은 언론의 압력을 받아 조치를 취해야 할 것이라고 말했습니다.

이러한 기술은 사기꾼들이 타인의 음란물 이미지를 제작하여 악의적인 목적으로 온라인에 게시하는 데 널리 사용되었습니다. 하지만 테일러 스위프트와 같은 유명인이 피해를 입으면서 이러한 사기 기술이 대중의 관심을 크게 받게 되었습니다.

미국에서는 9개 주가 딥페이크(특정 인물의 모습을 모방하기 위해 만든 합성 이미지)의 동의 없이 제작하거나 공유하는 것을 금지하는 법률을 제정했습니다.

Hoai Phuong (CNN에 따르면)

[광고_2]
원천