ChatGPT가 실감나는 이미지를 만들어낼 수 있다는 점에서 사기 발생 가능성에 대한 우려가 제기되고 있습니다.

ChatGPT는 "사진처럼 그림을 그립니다"

3월 26일, 오픈아이언(OpenAI)이 자사의 지능형 모델인 챗GPT(ChatGPT) 사용자들을 위해 이미지 생성 도구인 '이미지' 기능을 공식 출시하면서 전 세계 및 베트남 AI 사용자 커뮤니티가 들썩였습니다. 이전에도 챗GPT는 이미지 생성 기능을 제공했지만, 그 기능은 제한적이었고 DALL-E라는 또 다른 유명한 텍스트-이미지 변환 모델에 의존해야 했습니다.

텍스트를 그림으로 변환하고 "포토샵 수준의 이미지 병합" 기능을 제공하는 이 도구는 빠르게 주목을 받았습니다. 많은 사용자들이 출력 이미지 품질이 "놀랍다"고 평가했으며, 대부분은 시중에 나와 있는 다른 인기 AI 모델보다 "우수하다"고 평했습니다.

ChatGPT는 간단한 명령어만으로 실감나는 커피잔 이미지를 생성합니다.

OpenAI의 연구 책임자인 가브리엘 고에 따르면, GPT-4o 모델을 사용한 ChatGPT의 이미지 생성 능력 향상의 핵심은 "바인딩"이라고 합니다. 바인딩이란 AI 이미지 생성기가 속성과 객체 간의 연결을 얼마나 정확하게 유지하는지를 나타내는 용어입니다. 고는 GPT-4o가 15~20개의 서로 다른 객체의 속성을 오류 없이 정확하게 연결할 수 있어 생성된 콘텐츠의 정확성과 신뢰성을 크게 향상시킨다고 주장합니다.

ChatGPT의 이미지 생성 기능은 뛰어난 이미지 생성 능력뿐만 아니라, 다른 AI 이미지 생성 도구의 중요한 약점인 이미지 내 텍스트 렌더링 문제까지 해결합니다. 실제로 텍스트가 포함된 많은 이미지가 정확하게 렌더링되어 실제 이미지와 가짜 이미지를 구분하기가 점점 더 어려워지고 있습니다.

이 도구의 단점은 이미지 생성 시간이 비교적 오래 걸린다는 점이지만, 이는 정확한 세부 묘사와 사용자의 설명에 부합하는 고품질 이미지를 얻기 위해 인내심이 필요하기 때문에 합리적인 지연으로 간주됩니다. 연구팀은 향후 이러한 지연 문제를 개선할 것이라고 밝혔습니다.

이미지 조작 가능성에 대한 우려가 많이 제기되고 있습니다.

ChatGPT와 OpenAI가 사용자에게 제공하는 초기 즐거움을 넘어, 정보 보안, 개인정보 보호 및 악용 위험에 대한 우려가 다시금 대두되고 있습니다. 베트남의 한 페이스북 사용자는 "곧 온라인에서 보는 이미지가 실제가 아닐 수도 있다"며 우려를 표했습니다. 그는 ChatGPT를 통해 마치 사진처럼 사실적으로 보이는 완전히 조작된 이미지를 만들어낼 수 있기 때문입니다. 예를 들어, 배우이자 전직 레슬러인 드웨인 존슨(더 록)이 껌 브랜드를 광고하는 사진이나, 스토브 위에 앉아 있는 삼색 고양이 사진처럼 보이는 이미지를 만들어낼 수 있습니다.

자세한 명령어가 제공되므로 사용자는 기존 사진 편집 도구에 대한 심도 있는 지식 없이도 놀라운 결과물을 만들어낼 수 있습니다.

실제로 많은 사람들이 이 새로운 도구의 "옷 벗기기" 기능을 사용해 봤습니다. 하노이 에 사는 TN 씨는 인터넷에서 찾은 모델 사진을 이용해 ChatGPT에 옷을 갈아입혀 달라고 요청했는데, 거의 모든 요청이 높은 정확도로 처리되었다고 말했습니다. "하지만 저작권이 있는 이미지를 사용하거나 지나치게 선정적인 콘텐츠를 게시하는 등 시스템 정책을 위반한 경우에는 요청이 거부되기도 했습니다."라고 TN 씨는 덧붙였습니다.

탄니엔 신문 이 실시한 테스트에서 ChatGPT는 현실 세계나 영화, 만화에 등장하는 유명하거나 저작권이 있는 캐릭터와 관련된 이미지를 생성하는 것을 거부했습니다. "보내주신 참조 이미지에 마블의 저작권 캐릭터인 닥터 스트레인지가 명확하게 나타나 있어 현재 콘텐츠 정책을 위반하므로 요청하신 이미지를 생성할 수 없습니다."라고 시스템은 베트남에서 아이스티를 마시는 닥터 스트레인지 이미지를 만들어 달라는 요청에 응답했습니다.

ChatGPT의 멀티모달 제품 책임자인 재키 섀넌은 ChatGPT의 이미지 기능이 딥페이크, 음란물 또는 사기성 콘텐츠로부터 강력한 보호 기능을 제공한다고 밝혔습니다. 특히, 생성된 이미지에는 AI 제품임을 식별하기 위한 표준 C2PA 메타데이터가 포함되어 있지만, 검증을 위해서는 별도의 도구가 필요합니다.

하지만 많은 사람들이 여전히 "규칙을 교묘하게 피해" 유명인의 이미지를 오락 목적으로 이용하고 있습니다. 예를 들어, 팀 쿡 CEO가 아이폰 대신 삼성 휴대폰을 들고 있는 사진, 로버트 다우니 주니어 배우가 야채 사탕을 씹고 있는 사진, 또는 크리스티아누 호날두와 리오넬 메시가 베트남의 작은 골목에서 많은 구경꾼들 앞에서 공을 다투는 모습을 그린 그림 시리즈 등이 있습니다.

출처: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm