本文整理自阿里云高级专家喻良，在 Flink Forward Asia 2023 主会场的分享。
vLLM是UC Berkeley开源的大语言模型高速推理框架，其内存管理核心——PagedAttention、内置的加速算法如Continues Batching等，一方面可以提升Yuan2.0模型推理部署时的内存使用效率，另一方面可以大幅提升在实时应用场景下Yuan2.0的吞吐量。
RocketMQ ACL 2.0 不管是在模型设计、可扩展性方面，还是安全性和性能方面都进行了全新的升级。旨在能够为用户提供精细化的访问控制，同时，简化权限的配置流程。欢迎大家尝试体验新版本，并应用在生产环境中。
当前阿里云函数计算支持两种类型的函数：事件函数和 HTTP 函数。其中 HTTP 函数结合 HTTP 触发器，能够支持用户直接通过 HTTP 请求利用 Restful API 的方式发起函数调用；通过这种方式，用户无需集成函数计算提供的 SDK 就能实现函数调用，更好地同已有系统的组件及 Web 服...
PolarDB Serverless如何在0.5秒内实现跨机迁移？
阿里云消息队列 ApsaraMQ 始终围绕“高弹性低成本、更稳定更安全、智能化免运维”三大核心方向进行演进和拓展。在智能化免运维方面，通过 ApsaraMQ Copilot，为企业提供消息数据集成链路的健康管家，让消息服务走进智能化免运维的新时代。
监控运维是一个体系化的工作，完善这个体系非一日之功。但是我们的业务不可一日无监控“裸奔”，在阿里云怎么样快速低成本的建立第一道资源监控的护城河？开箱即用的云监控，将会是你进入阿里云的第一个可靠的小伙伴。
