问题描述
在 Azure App Service 中启用 Automatic Scaling 后,当业务负载增加并触发横向扩展时,平台可能需要动态增加新的 App Service 实例。
对于生产环境,一个非常重要的问题是:
如何确保新扩展出来的实例已经完成应用启动、依赖初始化并处于健康状态后,再开始承载实际业务流量,从而降低扩容过程对业务稳定性的影响?
解决这个问题不能只关注扩容规则本身,还需要从应用架构、应用初始化、实例健康检查以及预热能力几个方面共同考虑
问题解答
在应用架构方面,建议采用无状态设计,将 Session 等状态保存在 Redis、数据库等共享存储中,而不是依赖单个实例的内存。启用 Automatic Scaling 时,同一 App Service Plan 中已有应用的 ARR Affinity 会自动关闭,因此需要确保请求切换实例后仍能正常处理。
除了应用架构,另外三个方面分别解决不同的问题:
- Application Initialization:提前初始化应用,完成预热。
- Health Check:检查实例健康状态。
- Prewarmed Instance:提供扩容时的预热容量缓冲。
本文重点介绍 Prewarmed Instance;应用初始化和健康检查已在前两部分介绍。
预热实例(Prewarmed Instance)
当 HTTP 流量增加时,Automatic Scaling 会根据负载增加实例。
Prewarmed Instance 提前准备扩容时使用的容量缓冲,帮助减少等待新容量的时间,默认数量为 1。
预热实例不同于 Always ready instances, 后者指定应用的最小实例数,前者用于准备额外的扩容缓冲。
平台使用预热实例后,会继续准备缓冲,直到达到应用的最大扩容限制。
需要注意的是,预热实例不代表应用一定健康,也不能代替应用初始化和 Health Check。
如何配置和验证
在 Azure Portal 中进入应用的 Settings > Scale-out (App Service plan),启用 Automatic,并根据需要设置 Maximum burst、Always ready instances 和应用级 Maximum scale limit。
预热实例数量需要通过 Azure CLI 调整:
az webapp update --resource-group <RESOURCE_GROUP> --name <APP_NAME> --prewarmed-instance-count <PREWARMED_COUNT>
测试时模拟 HTTP 负载,观察 AutomaticScalingInstanceCount 和应用日志。
该指标包含已部署的预热实例,不等于正在接收业务流量的实例数。
参考资料
当在复杂的环境中面临问题,格物之道需:浊而静之徐清,安以动之徐生。 云中,恰是如此!