Higress 基于企业内外的丰富场景沉淀了众多面向 AI 的功能，推出了 AI 原生的 API 网关形态并且全部开源。
本文整理自阿里云智能集团资深技术专家，云原生产品线中间件负责人谢吉宝（唐三）在云栖大会的精彩分享。讲师深入浅出的分享了软件架构演进过程中，网关所扮演的各类角色，AI 应用的流量新特征对软件架构和网关所提出的新诉求，以及基于阿里自身实践所带来的开源贡献和商业能力。
通过阿里云云原生 API 网关在国泰落地，目前国泰所有访问大模型的流量均通过阿里云云原生 API 网关进行代理，在日均消耗近亿 Token 的同时，做到了对每个请求都进行敏感信息过滤，不论是输入大模型的内容还是由大模型产生的内容都进行了全面审计，大大降低使用大模型的数据安全风险。通过网关的 AI 插件，国泰产险做到了每个 Token 都知道是谁在用，用在哪个场景，给后续分析和成本管控提供了坚实的数据支撑。
近期，我们欣喜地宣布 Nacos 3.0 的第一个版本 Nacos 3.0-ALPHA 已经发布。Nacos 3.0 的目标是在 2.0 的基础上，进一步优化安全性、易用性和标准化。同时，我们将引入更多功能，帮助用户在分布式协调、AI 大模型、云原生等多种场景中更好地使用 Nacos，以提升其广泛适应性。
目前阿里云 ARMS 已经基于 LLM 大模型实现了单链路智能诊断，综合调用链、方法栈、异常堆栈、SQL、指标等多模态数据，结合链路诊断领域专家经验，有效识别单次请求的错慢根因，并给出相应的优化建议。
本文讨论了微服务上云过程中的稳定性挑战，特别是变更引起的生产故障。阿里云MSE（微服务引擎）提供了一种全链路无损发布方案，旨在消除变更风险，实现白天流量高峰时的安全发布。
