타오바오, AI에 적극 나서다

타오바오는 중국 정부 의 인공지능 규제 노력에 대응하고 있다. 사진: Shutterstock .

알리바바 그룹의 전자상거래 플랫폼인 타오바오는 인공지능(AI)이 생성하는 가짜 및 오해의 소지가 있는 제품 이미지의 확산을 막기 위한 노력을 강화하고 있습니다. 이는 점점 더 정교해지고 접근성이 높아지는 AI 기술의 오용을 막기 위한 조치입니다.

알리바바의 전자상거래 사업부인 타오바오와 티몰 그룹은 이번 주에 타오바오, 티몰, 중고 시장인 셴위를 포함한 자사 플랫폼 전반에 걸쳐 AI가 생성한 이미지 스크리닝에 초점을 맞춘 새로운 이니셔티브를 발표했습니다.

회사 관계자는 보도자료를 통해 "소비자에게 피해를 주고 정품 판매자의 권리를 침해하는 사기 행위에 맞서 싸울 것을 확고히 약속합니다."라고 밝혔습니다. "제품 이미지의 모든 편집은 진품임을 보장하기 위해 합리적인 수준에서 이루어져야 합니다. AI를 사용하여 실제 제품과 다른 제품 이미지를 만드는 것은 절대 금지됩니다."

캠페인의 일환으로 타오바오는 이미지 감지 시스템을 업그레이드할 예정이며, 이미 과도하게 편집되거나 과장된 이미지 약 10만 장을 삭제했습니다. 또한, 소비자의 인식 제고를 위해 제품 상세 페이지에 AI 생성 콘텐츠에 대한 경고 표시를 추가할 예정입니다.

타오바오는 AI가 생성한 이미지에서 흔히 볼 수 있는 비정상적인 점 몇 가지를 지적하는데, 여기에는 자연스럽지 않은 손 위치, 변형된 발, 이상한 그림자, 말이 안 되는 언어 문자 등이 포함됩니다.

강력한 멀티모달 AI 모델의 개발로 인해 AI가 생성한 이미지와 실제 이미지를 구별하기가 점점 더 어려워졌습니다.

타오바오의 이니셔티브는 생성적 AI를 규제하려는 중국 정부의 노력에 부합합니다.

2월, 중국 사이버공간 관리국(CAC)은 올해의 "칭랑" 캠페인이 AI 남용 방지, 합성 콘텐츠 탐지 강화, AI가 생성하는 허위 정보 단속에 중점을 둘 것이라고 발표했습니다.

3월에 중국 정부는 모든 사용자 인터페이스와 데이터 파일에 AI가 생성한 콘텐츠에 대한 명확한 라벨을 붙이도록 요구하는 지침을 발표했으며, 이 규칙은 9월에 발효될 예정입니다.

알리바바는 이러한 조치를 취한 최초의 주요 전자상거래 기업으로, 제품 광고의 진정성 확보를 위해 업계 전반의 협력을 촉구하고 있습니다. 이는 웨이보와 더우인(틱톡의 중국 버전) 등 소셜 미디어 플랫폼의 유사한 조치에 따른 것입니다.

회사 측은 "AI의 개발과 활용은 소비자 경험을 향상시키고 혁신을 촉진하며 합법적인 사업 이익을 보호하는 데 사용되어야 하며, 불법적이고 비윤리적인 행동을 위한 도구가 되어서는 안 된다"고 강조했다.

출처: https://znews.vn/taobao-siet-chat-quan-ly-hinh-anh-san-pham-gia-mao-do-ai-tao-ra-post1541470.html