本文整理自2024云栖大会梁成昊演讲

如何选择成本优化策略

我们可以看一下左侧的这张导图，其实在容器这个场景下，可选的降本策略有很多种。如果刚刚开始进行FinOps，或者策略偏保守，可以先从优化购买方式、调整资源配置等手段入手，这一类优化策略的好处在于推动简单，不需要业务侧配合进行架构优化；而如果希望进一步优化成本，可以选择一些高阶的优化策略，比如使用弹性，使用资源混部，但是并不一定高级的优化策略就一定产生更好的效果，因为优化策略本身并没有好坏之分，更重要的是看团队更适合哪些优化策略。

那么如何选择优化策略呢？我们可以通过建立两个维度的资源画像来评估。首先是集群维度，集群维度通常需要关注资源利用率是否合理，业务特征上是否可以考虑节省计划、抢占式实例等购买方式。然后是应用维度，应用维度需要关注资源配置是否合理，资源是否有明显周期性或突发性，是否需要考虑应用层的弹性策略。

这是我们需要在开始着手优化前进行的资源画像评估，然后就可以进入具体的优化策略的选型。

集群优化例抢占式实例抗

首先是集群维度的云资源优化。

这是一个实际的集群资源画像的例子，这个集群里面部署了两种业务，第一个业务存在不定期的资源波动，但有一个较稳定的最低资源水位。对于这部分稳定依赖的资源，我们可以选择包年包月的购买方式，如果有跨多个规格、可用区或者地域的需求，还可以选择使用节省计划，比包年包月在选择上有更好的灵活性。对于波动的资源，可以考虑开启ACK节点弹性，ACK主要提供自研的goatscaler和社区版cluster-autoscaler两种节点弹性方案，如果集群规模较大，goatscaler相比社区方案可以有更快更稳定的资源交付速度。我们再来看第二个业务，这个业务是非常典型的可容忍中断的大数据业务，可以优先考虑使用抢占式实例，相比按量付费实例最高可以节省90%的成本，有非常明显的成本优势。

另外还有一种非常常见的浪费情况，因为K8S这个环境涉及到复杂的云资源管理，我们在日常开发运维工作中很可能遇到一些未投入使用、或者未及时关闭的资源，产生了额外的扣费，比如没有配置监听的SLB，未挂载的磁盘，甚至已经移出K8S节点但还没有释放的ECS。这些资源如果逐个检查、逐个清理通常比较费时，所以我们提供了一键的闲置资源检查功能，我们会基于一些规则识别集群中的闲置资源，并且提供统一的闲置资源视图，帮助用户更方便地处理资源浪费。

应用优化 - 稳定性&效率SPRON

然后是应用层的优化策略。

在进行FinOps优化时，有一种非常常见的手段是调整资源配置，业务为了提升资源利用率，常见的方式就是调低资源Request，有的业务可能极端一点，甚至不配置资源request。其实这些操作都存在一定的资源风险，我们这里汇总了资源不合理配置的三类情况。

第一类情况是未配置资源，资源未配置的应用不会直接申请节点上的资源，所以有一定的成本优势，但如果这类应用调度到资源紧张的节点，随时可能因资源不足而没有响应甚至中止。第二类是资源配置不足，如果CPU配置不足一般会影响业务性能，而内存配置不足则可能导致业务OOM退出。第三类是资源过度配置，因为K8S是调度模型，资源配置决定了一个节点上能调度多少Pod，所以过度配置会导致整体资源利用率偏低，这类场景是有成本优化空间的。

那么如何识别这三种情况带来的成本、性能或稳定性风险呢，可以查看ACK稳定性&效率分析大盘，这里首先提供了资源利用率排序，可以帮助批量化地快速识别集群中稳定性风险最高，或者资源浪费程度最高的应用。还有一种情况，比如运维团队希望规范业务的资源配置，比如检查业务是否都设置了CPU Request，也可以在这里筛选，统一查看集群中所有未配置某资源的应用。

这里主要是提供了集群稳定性&效率风险的统一视图。

应用优化 - 资源画像CPU使用量

现在我们已经通过前面的分析，识别到集群中配置不合理的应用后，该如何调整资源配置呢？可能一直以来，设置资源Request、Limit都是让应用管理员比较犯难的问题，通常需要大量人工经验分析，再根据业务变化动态调整。设置过高可能浪费成本，设置过低又不能很好保证稳定性。

为了简化资源配置的复杂性，我们提供了白屏化的资源配置推荐功能。这个功能的大概原理是，会基于机器学习的算法分析应用的历史资源使用数据，计算出应用下每个容器的画像值，这时我们还需要给画像值增加一个冗余，就得出我们推荐的资源Request配置。

通过这种配置推荐，可以帮助应用管理员简化资源配置的复杂度，也可以保证资源利用率在一个健康的水位，从而避免稳定性风险或者成本浪费。

那么我们该如何使用配置推荐的功能呢，首先这个功能提供白屏化变配，可以直接在控制台查看应用的历史资源分析，判断推荐值是否合理，再选择是否应用推荐值。然后这个功能也联动到ACK的应用管理页面，比如我们在编辑工作负载时，如果不清楚如何配置资源，可以快速查看我们的建议。以及对于一些希望自建FinOps系统的客户，我们也提供标准的数据接口，可以基于通过K8s的CRD获取数据，也可以基于标准的Prometheus协议获取数据，或者绘制可视化大盘。这是如何基于资源画像实现资源的合理配置。

应用优化 - 弹性策略

最后是如何选择应用弹性策略。如果应用的资源存在明显的波动性，那么我们可以考虑为应用配置弹性策略。

目前弹性控制器有很多种，分别适用于不同的场景。如果业务波动具有突发性，或者需要频繁扩缩容，一般可以选择HPA。如果业务流量有明显的高峰和低谷时段，那么可以使用CronHPA来配置周期性的扩缩容。如果是有状态应用或者大型单体应用，不适合HPA这种水平增减Pod的场景，可以使用VPA的Pod垂直伸缩。

但是，客户要用好这些弹性策略，经常面临几个问题。第一个是指标的选择，要选择哪个或哪几个指标，才能保证弹性策略能够准确、即时的执行扩缩容，通常需要大量的人工经验做判断。第二个是规则的设置，也就是要给HPA设置多少的阈值，CronHPA要设置怎样的定时规则。第三个是这些配置还需要根据业务的变化进行动态调整。

为了更好解决这些问题，我们今年新推出了智能应用弹性的策略，我们会结合多种算法分析应用的资源画像，提取出应用的时序特征、容量水位，再基于资源画像自动生成、自动调整弹性的阈值、弹性的规则，从而达到一个辅助驾驶前面我提到的弹性控制器的效果。另外还有一个非常重要的点是什么，就是既然客户把弹性策略交给辅助驾驶了，那么弹性策略的效果如何，是否比手动设置有更好的成本节省。所以我们会白屏化量化智能弹性算法的效果，让用户能看得到弹性的策略，弹性的成功率，帮助客户提供更加可衡量、可追溯的智能弹性策略。