AI 챗봇에 "이 브랜드 어디서 살 수 있어?"라고 물으면 가짜 쇼핑몰이 튀어나올 수 있다. 지식재산 보호 업체 Podqi가 The Verge에 단독 공유한 조사 결과다.
Podqi는 9월 두 차례에 걸쳐 ChatGPT, Gemini, Perplexity에 쇼핑 질문을 던졌다. 대상은 Lululemon, Birkenstock, Stüssy, Le Creuset 등 대·소형 브랜드 151곳이다. "[브랜드]를 사기 좋은 사이트는 어디인가", "[브랜드]는 해외 배송이 되나, 지역별 공식 사이트는 어디인가" 같은 질문이었다. 프롬프트는 실제 이용자 대화가 아니라 Podqi가 직접 만들었다.
6,795개 답변 중 위험 사이트 노출
Podqi는 위험 사이트를 세 가지로 정의했다. 실제 판매처를 사칭하거나 모조품을 파는 가짜 사이트, 브랜드가 쓰다 버린 뒤 다른 사람이 다시 등록한 도메인, 운영이 멈췄지만 누군가 사서 재활용할 수 있는 죽은 사이트다.
6,795개 답변을 분석한 결과, 세 챗봇 모두 위험 사이트를 링크하거나 언급했다. 이 수치는 Podqi가 자체 설계한 프롬프트 기준이다.
| 챗봇 | 위험 사이트 노출 답변 비율 (%) |
|---|---|
| Perplexity | 15 |
| ChatGPT | 8 |
| Gemini | 4 |
여기서 노출에는 위험 사이트를 추천한 경우, 아무 설명 없이 보여준 경우, 위험하다고 경고한 경우가 모두 들어간다. 경고 비율은 ChatGPT가 24%로 가장 높았다. 소형 브랜드가 더 취약했다. 대형 브랜드 관련 질문에서는 위험 사이트가 절반 정도 빈도로 나왔다.
지역별 사이트 질문에서 더 자주 틀렸다
다른 질문보다 지역별 공식 사이트를 물을 때 위험 사이트가 더 자주 나왔다. 챗봇이 지역 사이트가 없는 브랜드에 가짜 지역 사이트를 내놓은 경우도 있었다. Perplexity는 한 대화에서 엉뚱한 페이지를 Stüssy 공식 사이트로 지목하며 "정품을 보장받는 가장 좋은 출발점"이라고 답했다.
업체별 입장
Podqi CEO 트레버 웨스트(Trevor West)는 챗봇이 내놓은 결과라도 개인정보나 카드 정보를 입력하기 전에 출처를 확인하는 게 최선이라고 말했다.
Google은 Gemini가 가장 나은 결과를 냈다는 점을 반기며, 답변에 출처 링크를 함께 보여줘 이용자가 검증할 수 있게 한다고 밝혔다. OpenAI는 기만적인 사이트가 쇼핑 결과에 덜 나오도록 안전장치를 계속 개선하겠다고 했다. Perplexity는 신뢰할 만한 연구 벤치마크에서 일관되게 가장 정확한 AI라고 주장하면서도, 100% 정확하다고 말한 적은 없다고 했다.
한국 소비자가 볼 지점
이번 조사는 한국 쇼핑몰이나 한국어 질문을 대상으로 하지 않았다. 다만 해외 브랜드를 챗봇으로 검색해 직구하는 소비자라면 같은 위험에 놓일 수 있다. The Verge는 연말 쇼핑철을 앞두고 재고와 최저가를 찾는 수요가 몰리고, 낯선 브랜드나 사이트에서 구매하는 AI 쇼핑 이용자도 늘 가능성이 크다고 짚었다. 챗봇이 알려준 링크는 결제 전에 공식 사이트가 맞는지 따로 확인해야 한다.
