딥페이크가 OpenAI의 소셜 네트워크에 넘쳐나다 Sora와 CEO Sam Altman이 "밈 현상"이 되다

(NLDO) - OpenAI가 개발한 AI 비디오 소셜 네트워킹 애플리케이션 Sora는 AI 딥페이크 영상이 도처에 등장하면서 논란의 물결에 직면해 있습니다.

OpenAI는 Sora AI 애플리케이션의 업그레이드 버전인 Sora 2를 출시했습니다. Sora 2 는 OpenAI의 새로운 AI 비디오 소셜 네트워크입니다.

Sora 2는 텍스트에서 비디오를 만드는 기능 외에도, 사용자가 제공한 설명에 따라 이미지와 움직임을 넣어 짧은 비디오를 매우 사실적으로 편집하는 기능이 있으며, 원래 버전과 마찬가지로 사운드를 생성하고 물리 법칙을 더 잘 처리하는 기능도 갖추고 있습니다.

OpenAI의 Sora 2가 세상을 강타하고 있습니다. 사진: CNBC

뿐만 아니라, Sora 2는 점프, 스케이트보드, 비행과 같은 복잡한 장면을 재현할 수 있는 기능으로 업그레이드되었습니다. 기술 전문가들은 이를 현존하는 가장 진보된 AI 영상 기술로 평가합니다.

그와 함께 OpenAI는 미국과 캐나다의 iOS에서 Sora 앱을 통해 소셜 네트워크를 "습격"했습니다.

소라 앱을 사용하면 TikTok이나 Instagram Reels처럼 AI 동영상을 제작, 공유, 시청할 수 있으며, 특히 카메오 기능이 돋보입니다. 사용자는 얼굴과 음성 데이터를 등록하여 AI 동영상에 자신을 삽입할 수 있으며, 친구들이 공유된 동영상에서 이 기능을 사용할 수 있습니다.

OpenAI CEO Sam Altman의 AI 아바타 Norm Macdonald가 Sora에 있습니다. 스크린샷/소라 2

OpenAI의 CEO 샘 알트먼의 카메오 출연이 소라 앱에 공개되고, 그의 얼굴이 담긴 일련의 딥페이크 영상이 24시간 내에 소셜 미디어에 등장하면서 논란이 일었습니다.

예상치 못한 이 상황으로 인해 OpenAI CEO는 "밈 현상"으로 전락했고, 소라는 글로벌 딥페이크 제작 "공장"으로 전락했습니다.

미국과 캐나다에서만 테스트되었지만, Sora의 인기는 폭발적으로 증가하여 현재 eBay 전역에서 Sora 초대 코드가 판매되고 있습니다.

소라 2: 기술의 정점인가, 딥페이크 기계인가?

위의 현상이 소라가 아찔한 속도로 "바이럴"되는 데 도움이 되었다는 것은 부인할 수 없습니다. 하지만 많은 사람들이 정치인 , 유명인, 또는 영향력 있는 사람들에게도 비슷한 상황이 발생할 수 있다는 우려를 표명했습니다.

영향력 있는 사람들이 샘 알트먼 씨와 같은 상황에 처했을 때 OpenAI는 어떻게 대처할 것인가라는 의문이 제기되면서 많은 우려와 논란이 일어났습니다.

OpenAI에 따르면 Sora 앱은 TikTok, Meta Reels, YouTube Shorts 등 다른 짧은 비디오 플랫폼과 비슷하게 작동하며, 사용자 습관에 따라 콘텐츠를 추천하는 알고리즘을 사용합니다.

유일한 차이점은 Sora 앱이 AI 비디오에만 집중하는 최초의 소셜 네트워크라는 것입니다.

TechCrunch는 Sora 2가 매우 사실적인 영상을 제작하는 데 있어 기술적으로 뛰어나다고 평했습니다. 하지만 이는 Sora가 부정적인 영상을 제작하는 데 쉽게 악용되어 악의적인 목적을 달성하는 이유이기도 합니다.

이러한 결과로 인해 OpenAI는 가상 세계 의 사용자를 위한 안전 제어 메커니즘을 신속하게 개발해야 했습니다.

특히, OpenAI는 Sora 출시 당시 개발 전략의 모순을 드러냈다고 합니다. OpenAI는 "인간 안전 최우선 연구소"라는 이미지를 유지하는 동시에, 수익을 창출하기 위해 소비자용 제품으로 사업을 확장할 계획입니다. CEO 샘 알트먼은 "과학 분야 AI 개발에는 자본이 필요하지만, 사람들을 웃게 하고 운영 비용을 절감하는 제품을 만드는 것 또한 중요합니다."라고 말했습니다.

많은 전문가와 전직 OpenAI 직원들은 이 기술 회사의 목표에 대한 회의적인 태도를 숨기지 않습니다.

하버드 대학교의 OpenAI 연구원인 보아즈 바라크 교수는 소라는 기술적으로 인상적이지만 다른 소셜 미디어 플랫폼의 함정을 피할 수 있다고 확신하기에는 너무 이릅니다.

지금까지 미국 규제 당국은 OpenAI가 수익 모델로 전환하는 것을 면밀히 모니터링해 왔습니다.

소라는 AI 비디오의 새로운 시대를 여는 동시에, 엔터테인먼트 혁명에 가져온 성과와 딥페이크 비디오에 대한 예측할 수 없는 우려 사이에 많은 모순이 있다는 점을 들어 OpenAI를 논란의 중심에 세웠습니다.

출처: https://nld.com.vn/deepfake-tran-lan-mang-xa-hoi-sora-cua-openai-ceo-sam-altman-thanh-hien-tuong-meme-19625100319140805.htm