这些年背过的面试题——Spring篇
对技术人来说，面试成功的道路只有一条，就是好好准备技术基础。本文是面试系列文章Spring篇，作者把自己的八股文和一些经验总结汇总在一起，供大家参考。
社区供稿 | vLLM部署Yuan2.0：高吞吐、更便捷
vLLM是UC Berkeley开源的大语言模型高速推理框架，其内存管理核心——PagedAttention、内置的加速算法如Continues Batching等，一方面可以提升Yuan2.0模型推理部署时的内存使用效率，另一方面可以大幅提升在实时应用场景下Yuan2.0的吞吐量。