类目筛选
2024-05-15
100826
大语言模型推理提速，TensorRT-LLM 高性能推理实践
大型语言模型（Large language models,LLM）是基于大量数据进行预训练的超大型深度学习模型，本文主要讲述TensorRT-LLM利用量化、In-Flight Batching、Attention、Graph Rewriting提升 LLM 模型推理效率。
100,826
2024-05-15
385
云效流水线+ECS服务器，自动化部署Web页面
本文主要介绍如何通过使用ECS服务器与npm，结合云效的流水线服务以仓库代码提交为触发方式，进行了基于Vue的Web网页部署。
385
2024-05-15
238
全景剖析阿里云容器网络数据链路（六）—— ASM Istio
本文是[全景剖析容器网络数据链路]第六部分部分，主要介绍ASM Istio模式下，数据面链路的转转发链路。
238
2024-05-15
330
阿里云千亿规模实时日志分析的架构设计和实践
本文为阿里云SLS 执少 在《DataFunTalk技术交流会：阿里云实时查询分析专场》分享时的议题内容（文字版本）。首先，阿里云日志服务SLS是一个什么样的产品和服务呢？ 我们用一句话来概括的话，那就是我们是一个云上的、一站式的、可观测日志服务平台。 首先呢，我们提供了强大的日志数据采集能力，支持...
330
2024-05-15
176
全景剖析阿里云容器网络数据链路（四）—— Terway IPVLAN+EBPF
本文是[全景剖析容器网络数据链路]第四部分部分，主要介绍Kubernetes Terway EBPF+IPVLAN模式下，数据面链路的转转发链路。
176
2024-05-15
877
一文详解 Java 限流接口实现
本文介绍的实现方式属于应用级限制，应用级限流方式只是单应用内的请求限流，不能进行全局限流。要保证系统的抗压能力，限流是一个必不可少的环节，虽然可能会造成某些用户的请求被丢弃，但相比于突发流量造成的系统宕机来说，这些损失一般都在可以接受的范围之内。
877
