AI가 통제 불능이 될 위험

[광고_1]

AI의 발전은 긍정적 측면과 부정적 측면을 모두 가지고 있습니다. 그리고 소라의 등장으로 이 기술은 그 어느 때보다 더 뜨거워질 것입니다.

소라 - OpenAI의 "새로운 하늘"

Sora는 놀라운 품질로 텍스트를 이미지로 변환할 수 있게 해주어 OpenAI에 큰 진전을 가져다주었습니다.

일본어로 "소라"는 하늘을 뜻합니다. 이 기술을 개발한 팀은 무한한 창의력을 상징하는 "소라"라는 이름을 선택했습니다.

Sora는 여러 캐릭터가 섬세한 배경과 함께 움직이는 애니메이션을 제작할 수 있습니다. 이 도구는 명령의 제안을 이해할 뿐만 아니라 실제로 어떻게 구현되는지까지 이해합니다. 사용자 리뷰에 따르면, Sora는 영화 제작자의 작업 속도를 높이는 동시에 경험이 부족한 그래픽 엔지니어를 완전히 대체할 수 있는 능력을 갖추고 있습니다.

소라는 텍스트를 이미지로 성공적으로 변환한 유일한 AI 프로그램이 아닙니다. 지난 한 해 동안 동일한 기능을 가진 다른 프로그램들이 많이 등장했습니다. AI 기술로 만들어진 제품들은 점점 더 완벽하고 생동감 있게 변하고 있습니다.

소라의 최첨단 기술

사실적인 영상을 제작하기 위해 소라는 사용자의 언어, 요청, 명령을 이해할 수 있어야 합니다. 하지만 여기서 끝나지 않고, 물리 법칙, 사물의 움직임, 그리고 캐릭터가 움직일 때 빛과 그림자가 어떻게 변하는지까지 이해해야 합니다.

예를 들어, 밤에 도쿄 거리를 걷는 소녀를 만드는 것이 과제였습니다. 소라가 만들어낸 결과물은 꽤 훌륭했습니다. 예리한 눈이 아니라면 영상의 작은 결함을 발견하기 어려웠을 겁니다.

이 영상은 땅에 고인 빗물 웅덩이에 반사되는 가로등의 생동감으로 99% 사실적입니다. 이러한 요소들은 명령에는 없지만, AI가 현실 세계 의 물리적 법칙을 이해하고 스스로 그려냅니다.

AI 뉴스에 따르면, Sora의 기반 기술은 텍스트와 이미지 입력을 처리할 수 있는 대규모 멀티모달 모델인 GPT-4를 부분적으로 활용합니다. GPT-4는 OpenAI의 대규모 언어 모델을 업데이트한 것으로, 방대한 온라인 데이터를 기반으로 훈련되어 사용자 질의에 대한 복잡한 응답을 생성합니다.

Sora의 나머지 부분은 확산 모델로, 여러 단계에 걸쳐 정적 노이즈를 점진적으로 줄여 일관된 영상으로 변환합니다. Sora는 Dalle-3와 동일한 기술, 즉 텍스트를 이미지로 변환하는 기술을 사용하여 놀라울 정도로 사실적인 영상을 구현합니다.

AI는 창의산업에 어떤 영향을 미칠까?

사진, 영화, 그래픽 디자인 분야에서 일하는 사람들은 AI 개발에 큰 관심을 가지고 있습니다. 세계 영화계의 중심지인 할리우드에서는 전문가들이 이미 AI의 영향력을 측정하고 있습니다.

보고서에 따르면, 2026년까지 할리우드의 영화, 텔레비전, 애니메이션 종사자의 21.4%가 AI로 대체될 것으로 예상됩니다.

작년 여름, 넷플릭스는 30만 달러에서 90만 달러에 달하는 엄청난 연봉을 제시하는 AI 제품 관리자 채용을 시작했습니다. 이는 유명하지 않은 평균 배우의 연봉보다 수십 배나 높습니다.

AI의 통제되지 않는 발전에 대한 우려

AI 트렌드는 마치 거대한 파도와 같습니다. 파도를 타고 그 파도를 따라가는 법을 배우고 그 파도를 잘 헤쳐 나간다면 당신과 당신의 직업, 그리고 지위는 안전할 뿐만 아니라 성공할 가능성도 있습니다.

하지만 기회에는 위험이 따릅니다. 이러한 초지능 인공지능 프로그램 또한 위험을 안고 있습니다. 그리고 AI의 상상을 초월하는 발전 속도와 함께 이러한 위험은 더욱 우려스럽습니다.

독일 하이델베르크 대학교 정보기술학부의 데이터 과학자인 트란 반 칸 박사에 따르면, 현재의 소라 모델은 여전히 좌우를 혼동하거나 영상 전체에 걸쳐 연속적인 이미지를 유지하지 못하는 등 많은 단점이 있지만, 소라가 거짓 정보를 생성할 위험이 충분히 있으며, 이로 인해 인터넷에서 무엇이 진실인지 판단하기가 더욱 어려워질 수 있다고 합니다.

"소라 애플리케이션은 소라가 제작한 영상이 매우 사실적이기 때문에 진짜 뉴스와 가짜 뉴스를 구분하기가 매우 어렵습니다. OpenAI 자체도 제한적인 해결책을 찾고 있지만, 근본적인 해결책은 없다는 점을 받아들여야 합니다. 가까운 미래에 이 애플리케이션은 사용자가 이미지와 텍스트를 제공하여 새로운 영상을 제작할 수 있도록 할 것입니다. 그렇게 되면 세계 유력 인사들의 발언이 매우 쉽게 위조될 수 있고, 이는 대중에게 큰 피해를 입힐 것입니다." - 트란 반 칸 박사

소라 이전에 OpenAI는 두 가지 제품을 출시했습니다. 사람처럼 텍스트를 생성할 수 있는 ChatGPT와 AI를 사용하여 가짜 오디오, 이미지, 비디오를 만드는 기술인 "딥페이크"를 만드는 DALL-E 기술입니다. 교황, 도널드 트럼프 전 미국 대통령, 그리고 최근에는 팝스타 테일러 스위프트가 가짜 포르노 이미지를 만들기 위해 얼굴을 이식당한 사건까지, 수많은 사람들이 딥페이크의 피해를 입었습니다.

"실제로 OpenAI는 GenAI 기술의 선구자입니다. 매우 뛰어난 과학자들 로 구성된 팀을 보유하고 있으며, AI 모델과 인력, 그리고 머신러닝에 투자하는 예산이 매우 크기 때문에 OpenAI가 만드는 결과물은 매우 높은 수준의 신뢰성을 가지고 있습니다."라고 Tran Van Canh 박사는 말했습니다.

이는 AI의 발전이 끊임없이 흐르는 인터넷에 긍정적 측면과 부정적 측면을 모두 가져온다는 것을 보여줍니다. 그리고 소라의 등장으로 기술 경쟁은 그 어느 때보다 치열해질 것으로 예상됩니다. 현재 메타, 구글, 런웨이 AI와 같은 대형 IT 기업들도 텍스트 기반 영상 제작을 위한 AI 기술을 연구 개발하고 있으며, 이와 유사한 모델들을 다수 발표했습니다.

VTV에 따르면

[광고_2]
원천