AI를 이용한 쇼핑의 기회와 위험.

지난주, 많은 미국 언론 매체들이 인공지능과 관련된 전자상거래의 새로운 문제점을 보도했습니다. 바로 인공지능이 가짜 판매자, 가짜 광고, 가짜 리뷰, 심지어 정교한 사기까지 만들어내는 데 악용될 수 있다는 것입니다.

"혼잡한 곳에서 편리하게 촬영할 수 있는 컴팩트 카메라나 짐벌 같은 기기를 좋은 가격에 찾을 수 있도록 도와주시겠어요?" AI 가상 비서를 이용해 제품을 검색해 보세요. AI는 마치 개인 쇼핑 컨설턴트처럼 사용자의 니즈를 파악하고, 다양한 옵션을 비교하며, 심지어 구매하기 가장 좋은 시기까지 제안해 줍니다.

미국의 주요 IT 기업들이 이러한 성장 기회를 적극적으로 활용하고 있습니다. IT 뉴스 사이트인 더 버지(The Verge)는 구글의 "글로벌 쇼핑 카트" 앱을 언급했습니다. 이 쇼핑 카트 앱은 가격 변동을 추적하고 상품 재입고 시 알림을 제공합니다.

CBS 뉴스에 따르면 아마존은 자사 온라인 소매 플랫폼의 제품 가격을 추적하고 수요에 따라 가격을 추천하며 거래를 완료하는 인공지능 비서 "루퍼스"를 개발했습니다. 한편, 미국 최대 소매업체인 월마트도 대화가 가능하고 조언을 제공하며 제품을 평가할 수 있는 인공지능 비서를 출시했습니다.

비즈니스 인사이더는 "차기 대규모 AI 전쟁이 바로 당신의 쇼핑 카트 안에서 벌어질 수 있다"고 강조했습니다. AI 플랫폼은 2029년까지 미국 전자상거래 매출을 1440억 달러까지 끌어올릴 것으로 예상됩니다.

AI 가상 비서는 소비자가 제품 관련 정보를 찾고 문의하는 데 도움을 줄 수 있지만, 잘못된 정보를 제공하거나 온라인 사기에 악용될 수도 있습니다.

CBS 뉴스는 "어떤 종류의 실수가 발생할 수 있을까?"라는 질문을 던졌습니다. 예를 들어, 한 회사 사장은 스위스 다보스에서 열린 세계 경제 포럼에서 연설하기 위해 AI 비서를 이용하면서 3만 달러를 지불했습니다. AI 비서의 설립자는 사용자가 제공한 지침에 서로 모순되는 내용이 포함되어 있었다고 설명했습니다.

IT 뉴스 사이트 더 버지는 틱톡에서 한 여성이 울면서 네티즌들에게 자신의 사업을 살리기 위해 제품을 사달라고 애원했지만, 알고 보니 실존 인물이 아닌 가짜 영상에 대해 경고했습니다.

월스트리트 저널은 인공지능과 가면을 쓴 범죄자를 엮은 유머러스한 이미지를 인용했습니다. 작년에 FBI 사이버범죄신고센터에는 인공지능 관련 사기 신고가 2만 2천 건 이상 접수되었습니다.

AI 가상 비서는 구매자를 대신하여 구매 결정을 내리는 도구가 아니라, 단지 지원 및 참고 자료로만 활용되어야 합니다. 최소한 "구매" 버튼을 누르기 전에 "이 정보가 정확한가요?"라고 질문하여 정확성을 확인하고, AI가 더욱 안전한 버전으로 발전하도록 훈련시켜야 합니다.

출처: https://vtv.vn/co-hoi-va-rui-ro-khi-mua-sam-bang-ai-100260602105126096.htm