2024-05-15
104586

SLS 大模型可观测&安全推理审计标准解决方案

本文介绍大模型可观测&安全推理审计解决方案和Demo演示,SLS 提供全面的 LLM 监控和日志记录功能。监控大模型使用情况和性能,自定义仪表盘;SLS 汇总 Actiontrail 事件、云产品可观测日志、LLM 网关明细日志、详细对话明细日志、Prompt Trace 和推理实时调用明细等数据,建设完整统一的大模型可观测方案,为用户的大模型安全推理审计提供全面合规支持。

104,586
2024-05-15
112619

线程操纵术之更优雅的并行策略

本文详细介绍了并行编程以及一些并行问题案例中的真实业务场景。

112,619
2024-02-18
134503

Higress × OpenKruiseGame 游戏网关最佳实践

本文将演示 Higress 如何无缝对接 OKG 游戏服,并为其带来的优秀特性。

134,503
2023-12-01
79979

AI 时代的 GPU 生存工具包,每个开发人员必须知道的最低限度

AI技术迎来了“百花齐放”的春天,这既是我们的挑战也是机会。而AI+千行百业创造了无限可能,也为独立开发者提供了大量的资源、支持以及学习经验的机会。本文分享一篇摘录自Hexmos 期刊的AI 时代的 GPU 生存工具包。

2023-10-17
1000

使用ECS部署并使用Docker

本文介绍如何在云服务ECS实例上,部署并使用Docker。

2023-10-09
29952

基于阿里云服务网格流量泳道的全链路流量管理(一)严格模式流量泳道

灰度发布是一种常见的对新版本应用服务的发布手段,其特点在于能够将流量在服务的稳定版本和灰度版本之间时刻切换,以帮助我们用更加可靠的方式实现服务的升级。

29,952
2023-08-31
450

为什么 Higress 是 Knative 入口网关的最佳实践

Knative Serving 是一款基于 K8s 的 Serverless 开源平台,用于构建和管理现代化、可拓展、流量驱动、无服务器的应用程序。本文重点关注 Knative 网络层能力的实现。

450
2023-08-31
1207

便捷、快速、稳定、高性能,以 GPU 实例演示 Alibaba Cloud Linux 3 对 AI 生态的支持龙蜥技术

在多维度的优化加持下,Alibaba Cloud Linux 3 解决了 AI 开发人员的痛点问题,让 AI 开发体验更容易更高效。

1,207
2023-08-25
380

充换电企业开迈斯低成本提升线上应用稳定性的最佳实践

充换电企业开迈斯低成本提升线上应用稳定性的最佳实践

1
...
18
19
20
21
22
到第
20/22