类目筛选
2025-01-14
538
政采云业务网关实践：使用 Higress 统一替代 APISIX/Kong/Istio Ingress
政采云基础架构团队技术专家朱海峰介绍了业务网关项目的背景和解决方案。
538
2025-02-20
685
大模型推理服务全景图
推理性能的提升涉及底层硬件、模型层，以及其他各个软件中间件层的相互协同，因此了解大模型技术架构的全局视角，有助于我们对推理性能的优化方案进行评估和选型。
685
2025-04-03
850
大模型上下文协议 MCP 带来了哪些货币化机会
本文探讨了MCP（Model-Calling Protocol）的兴起及其对AI生态的影响。自2月中旬起，MCP热度显著提升，GitHub Star和搜索指数均呈现加速增长趋势。MCP通过标准化协议连接大模型与外部工具，解决了碎片化集成问题，推动AI应用货币化及生态繁荣。文章分析了MCP与Function Calling的区别，指出MCP更适用于跨平台、标准化场景，而Function Calling在特定实时任务中仍具优势。此外，MCP促进了 supply端（如云厂商、大模型、中间件服务商）和消费端（终端用户）的变革，尤其以Devin和Manus为代表，分别改变了程序员和普通用户的交互方式。
850
2025-04-10
585
AI Infra之模型显存管理分析
本文围绕某线上客户部署DeepSeek-R1满血版模型时进行多次压测后，发现显存占用一直上升，从未下降的现象，记录了排查过程。
585
407
LoongCollector：构建智能时代的数据采集新范式
本文聚焦 LoongSuite 生态核心组件 LoongCollector，深度解析 LoongCollector 在智算服务中的技术突破，涵盖多租户观测隔离、GPU 集群性能追踪及事件驱动型数据管道设计，通过零侵入采集、智能预处理与自适应扩缩容机制，构建面向云原生 AI 场景的全栈可观测性基础设施，重新定义高并发、强异构环境下的可观测性能力边界。
407
2024-05-15
95395
AIGC训练场景下的存储特征研究
在今天这样以AIGC为代表的AI时代下，了解训练场景对于存储的具体诉求同样是至关重要的。本文将尝试解读WEKA的一个相关报告，来看看AIGC对于存储有哪些具体的性能要求。
95,395