类目筛选
2024-05-15
101609
大语言模型推理提速，TensorRT-LLM 高性能推理实践
大型语言模型（Large language models,LLM）是基于大量数据进行预训练的超大型深度学习模型，本文主要讲述TensorRT-LLM利用量化、In-Flight Batching、Attention、Graph Rewriting提升 LLM 模型推理效率。
101,609
2024-05-15
104550
SLS 大模型可观测&安全推理审计标准解决方案
本文介绍大模型可观测&安全推理审计解决方案和Demo演示，SLS 提供全面的 LLM 监控和日志记录功能。监控大模型使用情况和性能，自定义仪表盘；SLS 汇总 Actiontrail 事件、云产品可观测日志、LLM 网关明细日志、详细对话明细日志、Prompt Trace 和推理实时调用明细等数据，建设完整统一的大模型可观测方案，为用户的大模型安全推理审计提供全面合规支持。
104,550
2024-05-15
955
从方法论到最佳实践，深度解析企业云原生 DevSecOps 体系构建
本文主要介绍了云原生安全的现状以及企业应用在云原生化转型中面临的主要安全挑战以及相对成熟的一部分安全体系方法论，深度解析企业云原生 DevSecOps 体系构建。
955
2024-05-15
77267
PolarDB-X Operator 基于两次心跳事务的指定时间点恢复方案介绍
本文将介绍，PolarDB-X Operator将在事务策略为XA事务或者TSO事务时，如何实现全局一致的任意时间点恢复，提出了基于两次心跳事务的恢复方案。
77,267
2024-05-15
64926
为什么 Lettuce 会带来更长的故障时间
本文详述了阿里云数据库 Tair/Redis 将使用长连接客户端在非预期故障宕机切换场景下的恢复时间从最初的 900s 降到 120s 再到 30s的优化过程，涉及产品优化，开源产品问题修复等诸多方面。
64,926
2024-05-15
112874
PolarDB-X最佳实践系列（三）：如何实现高效的分页查询
分页查询是数据库中常见的操作。本文将介绍，如何在数据库中（无论是单机还是分布式）高效的进行翻页操作。
112,874
