一、业务背景:跨境选品的痛点
跨境卖家选品,需要从淘宝挖掘潜力货源:筛选高销量、低退货、合适毛利的商品,拿到标题、价格、图片、类目、销量等基础信息。
早期方案:网页爬虫。
缺点:频繁验证码、IP 封禁、页面结构改版导致代码失效;数据不稳定,维护成本高。
选型方案:taobao.items.search 商品列表 API 优势:官方结构化数据,字段稳定、返回 JSON,支持关键词、类目、价格区间、销量排序,适合做跨境批量货源挖掘。
业务目标
输入关键词列表,批量拉取淘宝商品列表;
按销量、价格自动过滤,筛选具备跨境潜力的商品;
结构化数据存入数据库,后续可对接商品详情 API 做深度字段提取;
搭建定时任务,周期性更新商品榜单,监控价格、销量变动。
二、系统整体架构
调度层:定时任务,批量遍历关键词池(根据海外市场需求生成中文搜索词)
API 请求层:封装 OpenAPI 签名、appkey、timestamp,统一请求入口
限流控制:控制 QPS,处理接口返回限流错误,指数退避重试
清洗层:清洗商品标题、人民币价格、销量,过滤禁售品、预售商品
选品计算:计算预估毛利、物流成本评分,输出候选货源清单
存储:原始 JSON 归档,结构化数据入库,供跨境运营人员筛选