类目筛选
2025-06-30
406
基于 AI 网关和 llmaz，提升 vLLM 推理服务可用性和部署易用性的实践
本文介绍了如何使用 llmaz 快速部署基于 vLLM 的大语言模型推理服务，并结合 Higress AI 网关实现流量控制、可观测性、故障转移等能力，构建稳定、高可用的大模型服务平台。
406
2023-06-15
14003
大数据SQL数据倾斜与数据膨胀的优化与经验总结
目前市面上大数据查询分析引擎层出不穷，但在业务使用过程中，大多含有性能瓶颈的SQL，主要集中在数据倾斜与数据膨胀问题中。本文结合业界对大数据SQL的使用与优化，尝试给出相对系统性的解决方案。
14,003
2024-05-15
611
Yuan2.0大模型，联合向量数据库和Llama-index，助力检索增强生成技术
本文将以Yuan2.0最新发布的Februa模型为例进行测试验证，用更小规模的模型达到更好的效果。
611
2024-05-15
774
Mistral 7B v0.2 基础模型开源，魔搭社区微调教程和评测来啦！
Mistral AI在3月24日突然发布并开源了 Mistral 7B v0.2模型，有如下几个特点
774