通过阿里云云原生 API 网关在国泰落地，目前国泰所有访问大模型的流量均通过阿里云云原生 API 网关进行代理，在日均消耗近亿 Token 的同时，做到了对每个请求都进行敏感信息过滤，不论是输入大模型的内容还是由大模型产生的内容都进行了全面审计，大大降低使用大模型的数据安全风险。通过网关的 AI 插件，国泰产险做到了每个 Token 都知道是谁在用，用在哪个场景，给后续分析和成本管控提供了坚实的数据支撑。
本文介绍了Serverless的发展历程及SAE（Serverless Application Engine）产品。首先，回顾了云计算从物理机、虚拟机到容器化再到Serverless的演进过程，并解释了Serverless的核心特点：无需管理底层资源、自动弹性伸缩、聚焦业务价值。接着，详细介绍了SAE的功能与优势，包括简化部署流程、支持多种弹性策略和提供丰富的运维工具。SAE的收费模式主要基于CPU和内存使用量，辅以请求数和流量计费，用户可以选择按量付费或预付费资源包。最后，通过极氪汽车、南瓜电影、视野数科和SKG等实际案例，展示了SAE在不同行业的应用效果。
文章探讨了为什么大规模集群中的可观测性服务会产生大量API请求、API服务器为何对DNS解析至关重要以及故障恢复过程为何缓慢的原因。
本方案利用函数计算的无服务器架构，您可以在函数计算控制台选择魔搭（ModelScope）开源大模型应用模板；同时，我们将利用文件存储 NAS ，为应用服务所需的大模型和相关文件提供一个安全的存储环境；最终通过访问提供的域名进行模型的调用与验证。仅需三步，即可玩转目前热门 AI 大模型。
全球化是对技术架构的终极挑战，面临的不仅仅是技术的问题，而是包含了经济、文化等多因素差异的用户关系问题。积极借助遍布全球的云计算基础设施和云原生的架构设计原则，将能更加高效的构建高可用的全球化技术架构，支持全球业务的持续增长。
目前 MSE 服务治理的 离群实例摘除、标签路由、金丝雀发布、全链路灰度等功能已经使用该路由方案，经过我们的压测与演练，在CPU、RT等方面均有不少提升，以 Demo 应用为例 (服务调用的跳数为2，下游30节点，每个节点1c2g) 其中调用 RT 提升约 6.7%。
本文主要介绍作为亚运会所有核心流量的入口，阿里云推出了一款百万并发规格的 API 网关，抗住了亚运会流量高峰，为亚运会提供强大的技术支持。
SAE 提供了一个开箱即用的 Serverless PaaS 平台，提供了微服务、监控等能力，帮助敦煌智旅很好地解决了发版困难、运维困难、弹性能力不足和资源利用率低等痛点问题。成功实现轻松应对 10 倍突增流量洪峰，运维效率大幅提升。
Higress 基于企业内外的丰富场景沉淀了众多面向 AI 的功能，推出了 AI 原生的 API 网关形态并且全部开源。
