开发者社区 > 云原生 > 微服务 > 正文

服务器端动态生成内容时,higress要做哪些配置?

服务器端动态生成内容时,higress要做哪些配置?

展开
收起
我睡觉不困 2024-08-20 13:10:33 39 0
1 条回答
写回答
取消 提交回答
  • 我们给到的建议是:
    要解决Higress服务器端动态生成内容时的内容安全问题,以及如何进行检索增强生成的配置,我们可以依据提供的知识内容分两部分进行详细说明。
    内容安全配置
    分析原因
    动态生成内容时,确保内容的合规性和安全性至关重要。Higress集成阿里云内容安全服务可以有效过滤非法内容,避免违法违规风险。
    配置步骤

    确定服务来源:设置serviceSource为dns。
    指定服务名和服务端口:分别为serviceName和servicePort,例如serviceName: "safecheck" 和 servicePort: 443。
    配置阿里云内容安全Endpoint:通过domain设定,如domain: "green-cip.cn-shanghai.aliyuncs.com"。
    认证信息:提供阿里云的Access Key(ak)和Secret Key(sk),例如ak: "XXXXXXXXX" 和 sk: "XXXXXXXXXXXXXXX"。

    解释
    以上配置确保了在Higress生成内容前,会通过阿里云内容安全服务对其进行检查。如果内容中包含非法信息,请求会被拦截,并返回安全建议的回复,从而保障了内容的合规性。
    检索增强生成(RAG)配置
    分析原因
    为了提升生成内容的质量和准确性,可以通过对接阿里云向量检索服务实现检索增强生成,使得LLM能够基于更丰富的背景信息进行回答。
    配置步骤

    DashScope配置:

    设置dashscope.apiKey,serviceName(如dashscope),servicePort(如443),和domain(如dashscope.aliyuncs.com)。

    DashVector配置:

    配置dashvector.apiKey,serviceName,servicePort(通常也是443),domain(指向具体的DashVector服务地址),以及如果需要,指定向量集合名称(如collection: xxxxxxxxxxxxxxx)。

    解释
    完成这些配置后,Higress在生成内容时,能利用DashVector服务检索相关背景信息,再结合DashScope服务,为用户提供更加精确和详尽的答案,比如在查询特定事件详情时,可以直接引用检索到的权威信息,而非仅依赖模型本身的生成能力。

    综上所述,通过实施内容安全配置和检索增强生成的设置,Higress服务器端不仅能够有效规避内容风险,还能显著提升内容生成的丰富度和准确性。

    参考链接:
    专家经验:higress AI 内容安全 专家经验:higress AI 检索增强生成此回答整理自钉群"Higress 社区交流 2 群"

    2024-08-20 14:00:26
    赞同 5 展开评论 打赏

为微服务建设降本增效,为微服务落地保驾护航。

相关电子书

更多
如何运维千台以上游戏云服务器 立即下载
网站/服务器取证 实践与挑战 立即下载
ECS计算与存储分离架构实践 立即下载