类目筛选
2025-03-21
941
监控vLLM等大模型推理性能
本文将深入探讨 AI 推理应用的可观测方案，并基于 Prometheus 规范提供一套完整的指标观测方案，帮助开发者构建稳定、高效的推理应用。
941
2025-03-21
980
AI 推理场景的痛点和解决方案
一个典型的推理场景面临的问题可以概括为限流、负载均衡、异步化、数据管理、索引增强 5 个场景。通过云数据库 Tair 丰富的数据结构可以支撑这些场景，解决相关问题，本文我们会针对每个场景逐一说明。
980
2025-03-06
1228
一篇关于DeepSeek模型先进性的阅读理解
本文以DeepSeek模型为核心，探讨了其技术先进性、训练过程及行业影响。首先介绍DeepSeek的快速崛起及其对AI行业的颠覆作用。DeepSeek通过强化学习（RL）实现Time Scaling Law的新范式，突破了传统大模型依赖算力和数据的限制，展现了集成式创新的优势。文章还提到开源的重要性以及数据作为制胜法宝的关键地位，同时警示了业务发展中安全滞后的问题。
1,228
2025-02-14
407
2025 年可观测 10 大趋势预测
下述报告主要整理自各大网站发布的对 2025 年可观测趋势的预测，作者合并同类项汇总 10 个共性的趋势，欢迎大家一起讨论。
407
2025-02-11
522
从大规模恶意攻击 DeepSeek 事件看 AI 创新隐忧：安全可观测体系建设刻不容缓
在近来发生的 DeepSeek 遭遇的安全事件中，我们可以看到当前人工智能行业在网络安全方面的脆弱性，同时也为业界敲响了警钟。唯有通过全行业的协同努力，加强整体、完善的网络安全可观测建设，才能为 AI 技术的创新和发展构建一个安全而稳固的环境。我们期盼并相信，在攻克这些网络安全难题之后，AI 创新将迎来更加安全、灿烂的未来。
522