vLLM 性能优化实战：批处理、量化与缓存配置方案
本文深入解析vLLM高性能部署实践，揭秘如何通过continuous batching、PagedAttention与前缀缓存提升吞吐；详解批处理、量化、并发参数调优，助力实现高TPS与低延迟平衡，真正发挥vLLM生产级潜力。
用数学重构 AI的设想：流形注意力 + 自然梯度优化的最小可行落地
本文提出两个数学驱动的AI模块：流形感知注意力（D-Attention）与自然梯度优化器（NGD-Opt）。前者基于热核偏置，在局部邻域引入流形结构，降低计算开销；后者在黎曼流形上进行二阶优化，仅对线性层低频更新前置条件。二者均提供可复现代码与验证路径，兼顾性能与工程可行性，助力几何感知的模型设计与训练。