有点难度
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
我想在本地搭个客服模型,公司内部数据只有一半,另一半得从公开网页上凑。用亮数据的网页抓取 API,请求整个网页后可以解析成 Markdown、纯文本、HTML 或 JSON,正好喂给大模型做语料。操作上先注册拿 key,控制台点 Web Scrapers 进模板市场,选目标网站,输入产品 URL 就能自动采;也可以用 Python requests 调 API 拿商品数据。喂 LLM 的话拿 Markdown 格式最合适,杂音少。Unlocker 返回的也可以直接要 LLM 友好的 Markdown 输出,省了自己清洗一遍。