类目筛选
2025-06-30
427
基于 AI 网关和 llmaz，提升 vLLM 推理服务可用性和部署易用性的实践
本文介绍了如何使用 llmaz 快速部署基于 vLLM 的大语言模型推理服务，并结合 Higress AI 网关实现流量控制、可观测性、故障转移等能力，构建稳定、高可用的大模型服务平台。
427
2024-05-15
774
利用 KMS 对文本信息进行签名验签实践
通过阿里云的KMS产品针对文件或者证书文件进行签名验签，可以有效解决攻击者针对敏感文件、重要文件在传输过程中被篡改，其次可以实现证书双向认证过程中的证书合法性校验，真正做到传输链路安全。
774
2024-05-15
252
通过计算巢轻松部署Salt服务
Salt基于Python构建，是一个事件驱动的自动化工具和框架，用于部署、配置和管理复杂的IT系统。使用Salt来自动化公共基础设施管理任务，并确保基础设施的所有组件都以一致的期望状态运行。 本文向您介绍如何开通计算巢上的Salt服务，以及部署流程和使用说明。
252
2024-05-15
468
计算巢AppFlow-如何在钉钉群实现智能答疑
随着大模型能力越来越强大，利用大语言模型进行智能答疑已经成为了一个非常普遍和常见的场景。然而，各个产品或业务方要能够准确有效地进行答疑，仅依靠大模型的通用能力是远远不够的，这时候利用私有领域FAQ文档进行大模型的检索增强生成往往可以有效解决上述问题。
468
2024-05-15
165233
一键开启 GPU 闲置模式，基于函数计算低成本部署 Google Gemma 模型服务
本文介绍如何使用函数计算 GPU 实例闲置模式低成本、快速的部署 Google Gemma 模型服务。
165,233