我们给到的建议是:
要解决Higress服务器端动态生成内容时的内容安全问题,以及如何进行检索增强生成的配置,我们可以依据提供的知识内容分两部分进行详细说明。
内容安全配置
分析原因
动态生成内容时,确保内容的合规性和安全性至关重要。Higress集成阿里云内容安全服务可以有效过滤非法内容,避免违法违规风险。
配置步骤
确定服务来源:设置serviceSource为dns。
指定服务名和服务端口:分别为serviceName和servicePort,例如serviceName: "safecheck" 和 servicePort: 443。
配置阿里云内容安全Endpoint:通过domain设定,如domain: "green-cip.cn-shanghai.aliyuncs.com"。
认证信息:提供阿里云的Access Key(ak)和Secret Key(sk),例如ak: "XXXXXXXXX" 和 sk: "XXXXXXXXXXXXXXX"。
解释
以上配置确保了在Higress生成内容前,会通过阿里云内容安全服务对其进行检查。如果内容中包含非法信息,请求会被拦截,并返回安全建议的回复,从而保障了内容的合规性。
检索增强生成(RAG)配置
分析原因
为了提升生成内容的质量和准确性,可以通过对接阿里云向量检索服务实现检索增强生成,使得LLM能够基于更丰富的背景信息进行回答。
配置步骤
DashScope配置:
设置dashscope.apiKey,serviceName(如dashscope),servicePort(如443),和domain(如dashscope.aliyuncs.com)。
DashVector配置:
配置dashvector.apiKey,serviceName,servicePort(通常也是443),domain(指向具体的DashVector服务地址),以及如果需要,指定向量集合名称(如collection: xxxxxxxxxxxxxxx)。
解释
完成这些配置后,Higress在生成内容时,能利用DashVector服务检索相关背景信息,再结合DashScope服务,为用户提供更加精确和详尽的答案,比如在查询特定事件详情时,可以直接引用检索到的权威信息,而非仅依赖模型本身的生成能力。
参考链接:
专家经验:higress AI 内容安全
专家经验:higress AI 检索增强生成此回答整理自钉群"Higress 社区交流 2 群"
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。