类目筛选
2024-05-15
100706
大语言模型推理提速，TensorRT-LLM 高性能推理实践
大型语言模型（Large language models,LLM）是基于大量数据进行预训练的超大型深度学习模型，本文主要讲述TensorRT-LLM利用量化、In-Flight Batching、Attention、Graph Rewriting提升 LLM 模型推理效率。
100,706
2024-05-15
266
阿里云千亿规模实时日志分析的架构设计和实践
本文为阿里云SLS 执少 在《DataFunTalk技术交流会：阿里云实时查询分析专场》分享时的议题内容（文字版本）。首先，阿里云日志服务SLS是一个什么样的产品和服务呢？ 我们用一句话来概括的话，那就是我们是一个云上的、一站式的、可观测日志服务平台。 首先呢，我们提供了强大的日志数据采集能力，支持...
266
2024-05-15
326
云效流水线+ECS服务器，自动化部署Web页面
本文主要介绍如何通过使用ECS服务器与npm，结合云效的流水线服务以仓库代码提交为触发方式，进行了基于Vue的Web网页部署。
326
2024-06-03
73314
基于阿里云服务网格流量泳道的全链路流量管理（三）：无侵入式的宽松模式泳道
本文简要讨论了使用流量泳道来实现全链路流量灰度管理的场景与方案，并回顾了阿里云服务网格 ASM 提供的严格与宽松两种模式的流量泳道、以及这两种模式各自的优势与挑战。接下来介绍了一种基于 OpenTelemetry 社区提出的 baggage 透传能力实现的无侵入式的宽松模式泳道，这种类型的流量泳道同时具有对业务代码侵入性低、同时保持宽松模式的灵活特性的特点。同时，我们还介绍了新的基于权重的流量引流策略，这种策略可以基于统一的流量匹配规则，将匹配到的流量以设定好的比例分发到不同的流量泳道。
73,314
