类目筛选
2025-02-28
1157
进行GPU算力管理
本篇主要简单介绍了在AI时代由‘大参数、大数据、大算力’需求下，对GPU算力管理和分配带来的挑战。以及面对这些挑战，GPU算力需要从单卡算力管理、单机多卡算力管理、多机多卡算力管理等多个方面发展出来的业界通用的技术。
1,157
2025-02-28
1020
使用A10单卡24G复现DeepSeek R1强化学习过程
本文描述DeepSeek的三个模型的学习过程，其中DeepSeek-R1-Zero模型所涉及的强化学习算法，是DeepSeek最核心的部分之一会重点展示。
1,020
2025-06-30
405
基于 AI 网关和 llmaz，提升 vLLM 推理服务可用性和部署易用性的实践
本文介绍了如何使用 llmaz 快速部署基于 vLLM 的大语言模型推理服务，并结合 Higress AI 网关实现流量控制、可观测性、故障转移等能力，构建稳定、高可用的大模型服务平台。
405
2025-08-11
281
MSE Nacos Controller：为 Kubernetes 生态构建配置管理与服务发现的桥梁
在企业云原生转型过程中，如何实现传统微服务与 Kubernetes 服务的配置统一管理、服务互通及协议转换成为关键挑战。MSE Nacos Controller 应运而生，作为连接 Kubernetes 与 Nacos 的桥梁，支持 ConfigMap 与 Nacos 配置双向同步、服务自动注册发现，并助力 Higress 等 MCP 网关实现 REST API 向 AI 可调用 MCP 服务的转换，全面提升系统治理能力与智能化水平。
281
2023-04-14
577
如何在 Anolis 8 上构建基于 Nydus 和 Dragonfly 的镜像加速解决方案
Nydus+Dragonfly 组合减少容器启动过程中镜像的拉取时间，提升集群间的镜像分发效率。
577
