类目筛选
2025-06-30
406
基于 AI 网关和 llmaz，提升 vLLM 推理服务可用性和部署易用性的实践
本文介绍了如何使用 llmaz 快速部署基于 vLLM 的大语言模型推理服务，并结合 Higress AI 网关实现流量控制、可观测性、故障转移等能力，构建稳定、高可用的大模型服务平台。
406
2023-09-08
714
阿里云智能媒体服务IMS在视频剪辑中花式抠图的代码实操与案例详述
本文介绍阿里云智能媒体服务IMS，围绕视频剪辑及数字人训练中的抠图需求，如何运用 绿幕抠图、实景抠图能力，实现高效、便捷的视频制作及合成体验。
714
2024-05-15
464
计算巢AppFlow-如何在钉钉群实现智能答疑
随着大模型能力越来越强大，利用大语言模型进行智能答疑已经成为了一个非常普遍和常见的场景。然而，各个产品或业务方要能够准确有效地进行答疑，仅依靠大模型的通用能力是远远不够的，这时候利用私有领域FAQ文档进行大模型的检索增强生成往往可以有效解决上述问题。
464
2024-05-15
611
Yuan2.0大模型，联合向量数据库和Llama-index，助力检索增强生成技术
本文将以Yuan2.0最新发布的Februa模型为例进行测试验证，用更小规模的模型达到更好的效果。
611
2024-05-15
774
Mistral 7B v0.2 基础模型开源，魔搭社区微调教程和评测来啦！
Mistral AI在3月24日突然发布并开源了 Mistral 7B v0.2模型，有如下几个特点
774