기술 산업, AI가 생성한 이미지 식별에 주력

[광고_1]

트루픽 CEO 제프리 맥그리거는 이번 사건이 "빙산의 일각"에 불과하다고 말했습니다. 맥그리거는 소셜 미디어에 AI가 생성한 콘텐츠가 더 많아질 것이며, 우리는 아직 이에 대비하지 못했다고 말했습니다.

CNN에 따르면, Truepic은 Truepic Lens를 통해 미디어 생성 시점을 인증하는 기술을 제공함으로써 이 문제를 해결하고자 합니다. 이 데이터 수집 앱은 사용자에게 이미지 생성 날짜, 시간, 위치, 그리고 사용된 기기를 알려주고, 디지털 서명을 적용하여 이미지가 자연어 처리된 것인지 아니면 AI가 생성한 것인지 확인합니다.

2015년에 설립된 마이크로소프트 지원 회사인 Truepic은 NGO 부터 미디어 회사, 심지어 보험사까지 청구의 적법성을 확인하고자 관심을 보이고 있다고 밝혔습니다.

맥그리거는 모든 것을 위조할 수 있고, 인공지능이 품질과 접근성 면에서 최고조에 달하면, 우리는 더 이상 온라인상의 현실이 무엇인지 알 수 없게 된다고 말했습니다.

Truepic과 같은 기술 회사들은 수년간 온라인 허위 정보 근절을 위해 노력해 왔습니다. 하지만 사용자 명령으로 이미지와 텍스트를 생성할 수 있는 새로운 종류의 AI 도구가 등장하면서 이러한 허위 정보 근절의 필요성은 더욱 커졌습니다. 올해 초에는 발렌시아가 다운 재킷을 입은 프란치스코 교황과 도널드 트럼프 전 미국 대통령이 체포되는 가짜 이미지가 널리 공유되었습니다. 두 사건 모두 수백만 명의 사람들에게 AI의 잠재적 위험성에 대한 경각심을 불러일으켰습니다.

일부 의원들은 기술 기업들이 AI가 생성한 콘텐츠에 라벨을 부착하여 이 문제를 해결할 것을 촉구하고 있습니다. 베라 주로바 유럽연합 집행위원회 부위원장은 구글, 메타, 마이크로소프트, 틱톡을 포함한 기업들이 허위 정보 근절을 위한 유럽연합의 자발적 행동 강령에 동참했다고 밝혔습니다.

제품에 생성적 AI를 구현하는 기업을 포함하여 점점 더 많은 스타트업과 기술 대기업이 사람들이 이미지나 비디오가 AI로 생성되었는지 판단하는 데 도움이 되는 표준과 솔루션을 구현하려고 노력하고 있습니다.

하지만 AI 기술이 인간의 속도를 따라잡을 수 없을 만큼 빠르게 발전함에 따라, 이러한 솔루션들이 문제를 완전히 해결할 수 있을지는 불확실합니다. Dall-E와 ChatGPT를 개발한 OpenAI조차도 AI가 생성한 글을 감지하기 위한 자체적인 노력이 불완전하다고 인정했습니다.

솔루션을 개발하는 기업들은 이 문제를 해결하기 위해 두 가지 접근 방식을 취하고 있습니다. 첫 번째는 AI가 생성한 이미지가 제작되어 온라인에 공유된 후 이를 식별하는 프로그램을 개발하는 것입니다. 두 번째는 이미지에 디지털 서명을 적용하여 실제 이미지인지 AI가 생성한 이미지인지 표시하는 데 중점을 둡니다.

Reality Defender와 Hive Moderation이 첫 번째 솔루션을 개발 중입니다. 이 플랫폼을 통해 사용자는 스캔할 이미지를 업로드하면 해당 사진이 실제인지 AI가 생성한 것인지를 보여주는 분석 결과를 받아볼 수 있습니다.

Reality Defender는 AI가 생성한 비디오, 오디오, 이미지를 감지하기 위해 독점적인 딥페이크 및 생성형 콘텐츠 지문 기술을 사용한다고 밝혔습니다. Reality Defender가 제공한 예시에서, 리얼리티 디펜더는 톰 크루즈의 딥페이크 이미지를 보여주었는데, 이미지 속 인물의 얼굴이 조작된 사진에서 흔히 볼 수 있는 왜곡된 모습을 하고 있었기 때문에 53%가 "의심스럽다"고 답했습니다.

이 서비스는 무료 및 유료 버전을 제공합니다. Hive Moderation은 이미지 1,000개당 1.50달러를 청구한다고 밝혔습니다. Realty Defender는 고객이 회사의 전문성과 지원을 필요로 하는 경우 다양한 요인에 따라 가격이 달라질 수 있다고 말합니다. Realty Defender CEO 벤 콜먼은 누구든 AI 도구를 사용하여 가짜 사진을 만들 수 있기 때문에 위험이 매달 두 배로 증가하고 있다고 말합니다.

여러 다른 회사들이 이미지에 일종의 라벨을 추가하여 실제 이미지인지 AI 생성 이미지인지 인증하는 작업을 진행하고 있습니다. 지금까지 이러한 노력은 콘텐츠 진위성 및 출처 연합(C2PA)의 주도로 이루어졌습니다.

C2PA는 2021년에 설립되어 디지털 미디어의 출처와 역사를 인증하는 기술 표준을 마련하기 위해 설립되었습니다. 어도비의 콘텐츠 인증 이니셔티브(CAI)와 마이크로소프트와 BBC가 주도하는 프로젝트 오리진(Project Origin)을 결합하여 디지털 뉴스의 허위 정보 방지에 중점을 두고 있습니다. C2PA에 참여하는 다른 기업으로는 트루픽(Truepic), 인텔(Intel), 소니(Sony) 등이 있습니다.

C2PA 원칙에 따라 CAI는 기업이 이미지 정보를 포함하는 콘텐츠 자격 증명이나 메타데이터를 생성할 수 있는 오픈소스 도구를 출시할 예정입니다. CAI 웹사이트에 따르면, 이를 통해 제작자는 이미지 제작 과정에 대한 세부 정보를 투명하게 공유할 수 있습니다. 이를 통해 최종 사용자는 이미지가 누가, 무엇을, 어떻게 변경되었는지에 대한 맥락을 파악하고 이미지의 진위 여부를 직접 판단할 수 있습니다.

많은 기업들이 이미 C2PA 표준과 CAI 도구를 자사 애플리케이션에 통합했습니다. 포토샵에 추가된 새로운 AI 이미징 도구인 어도비 파이어플라이는 콘텐츠 자격 증명 기능을 통해 C2PA 표준을 준수합니다. 마이크로소프트는 또한 Bing Image Creator와 Microsoft Designer로 제작된 이미지와 비디오에 향후 몇 달 안에 암호화 서명이 적용될 것이라고 발표했습니다.

5월, 구글은 이미지가 구글에 처음 등장한 시점과 어디에서 볼 수 있는지 확인할 수 있는 "이 이미지에 대한 정보" 기능을 발표했습니다. 구글은 또한 구글 AI가 생성한 모든 이미지가 다른 웹사이트나 플랫폼에서 발견될 경우 "맥락을 추가"하기 위해 원본 파일에 마크업을 포함할 것이라고 발표했습니다.

기술 기업들이 AI 생성 이미지와 디지털 미디어의 무결성에 대한 우려를 해소하기 위해 노력하고 있는 가운데, 관련 전문가들은 기업들이 이 문제를 해결하기 위해 정부와 긴밀히 협력해야 한다고 강조합니다. 그럼에도 불구하고 기술 기업들은 이러한 위험에도 불구하고 AI 개발을 위해 경쟁하고 있습니다.

[광고_2]
소스 링크