聚焦近日OpenAI的大规模K8s集群故障，介绍阿里云容器服务与可观测团队在大规模K8s场景下我们的建设与沉淀。以及分享对类似故障问题的应对方案：包括在K8s和Prometheus的高可用架构设计方面、事前事后的稳定性保障体系方面。
从架构演进、网关优化到可观测体系构建等，UU 跑腿的云原生化，让 80% 的微服务轻松上云，还做到了 1 分钟弹性伸缩，实现了 80% 的运维成本降低。
本方案将运用函数计算 FC，构建一套高可用性的 Web 服务，以满足用户多样化的需求。当用户发起请求时，系统内部会自动将包含文本和提示词的信息传递给百炼模型服务，百炼平台将根据后台配置调用相应的大模型服务，对文本数据进行智能识别与解析，最终将总结结果返回给用户。
客户机房迁移过程中，发现不同 Pod 副本耗时前后相差 5 倍，本文介绍如何通过 ARMS 代码热点功能进行快速定位。
网络监控与分析在保证网络可靠性、优化用户体验和提升运营效率方面发挥着不可或缺的作用，对于出海企业应对复杂的网络环境和满足用户需求具有重要意义，为出海企业顺利承接泼天流量保驾护航。