ChatGPT는 사기 웹사이트에서 상품을 구매하는 방법에 대한 지침을 제공합니다.

AI 챗봇은 쇼핑 시 신뢰할 수 없는 조언을 제공할 수 있다. 사진: 로이터 .

AI 챗봇 붐이 일어난 시대에 사기꾼들도 이 막대한 힘을 악용하는 자신들만의 방법을 찾아냈습니다. 바로 ChatGPT를 마케팅에 이용하는 것입니다.

가디언지에 따르면, 사기 탐지 서비스인 Ask Silver는 OpenAI의 챗봇이 쇼핑객으로부터 결제 정보를 수집하기 위해 설계된 가짜 소매 웹사이트를 추천하는 것을 발견했습니다.

사기 웹사이트는 실제 상점을 모방하고 공식 웹사이트처럼 보이는 URL을 사용하기 때문에 주의 깊게 확인하지 않으면 알아차리기 어렵습니다.

구체적으로, 사기꾼들은 최근 문을 닫았거나 인수된 브랜드를 의도적으로 표적으로 삼아 소비자 수요와 공식 온라인 존재감 사이에 격차를 만듭니다.

Ask Silver의 전문가인 안나 존스는 지난 1월 파산한 영국 신발 소매업체 러셀앤브롬리를 사례 연구로 들었습니다.

관심 있을 수도 있어요

애플은 맥, 아이패드 등 여러 기기의 가격을 인상했는데, 아이폰 가격은 어떻게 될까요?RAM과 SSD 부족 사태가 심화되면서 애플 기기 가격이 급등하고 있습니다. 하지만 아이폰 가격과 관련해서는 다행스러운 소식도 있습니다.

넥스트가 해당 브랜드를 인수하고 공식 웹사이트가 사라지자, 사기꾼들은 "똑같은" 복제 웹사이트를 만들어 챗GPT 검색 결과에 나타나도록 최적화했습니다. 러셀앤브롬리 제품에 대해 챗봇에 문의한 고객들은 가짜 웹사이트로 바로 연결되었습니다.

ChatGPT 검색 결과의 출처 중 하나는 가짜 러셀앤브롬리 웹사이트입니다. 사진: 가디언.

존스에 따르면, 이러한 현상에 대한 그럴듯한 설명은 악의적인 공격자들이 피싱 웹사이트를 홍보하도록 설계된 콘텐츠를 ChatGPT의 학습 데이터에 삽입하는 것, 즉 "데이터 포이즈닝"이라는 기법을 사용하고 있다는 것입니다.

현재 OpenAI는 러셀앤브롬리(Russell & Bromley) 관련 쇼핑 검색어에 대한 검색 결과를 업데이트하면서 다음과 같은 경고를 표시하고 있습니다. "러셀앤브롬리 제품을 80% 할인된 가격으로 광고하는 일부 웹사이트는 의심스러우며 공식 판매점이 아닐 수 있습니다. 최근 보고에 따르면 AI 기반 검색 결과에 가짜 러셀앤브롬리 매장이 나타나는 사례가 있습니다."

이전 연구들은 ChatGPT가 일관되고 신뢰할 수 있는 제품 추천을 제공하는 데 어려움을 겪어왔으며, 특히 사용자를 사기성 웹사이트로 연결하는 것이 심각한 문제임을 보여주었습니다. 인공지능이 쇼핑 과정에서 더욱 중요한 역할을 하게 됨에 따라 이러한 문제는 더욱 악화될 가능성이 높습니다.

영국 국가거래표준청의 루이스 백스터는 가디언 과의 인터뷰에서 사기꾼들이 새로운 기술에 매우 빠르게 적응한다고 말했습니다. 사람들은 인공지능이 추천한다고 해서 웹사이트를 무조건 신뢰해서는 안 됩니다.

출처: https://znews.vn/chatgpt-huong-dan-mua-hang-tren-website-lua-dao-post1658692.html