专场名称:AI 原生应用架构
9月21日 09:30 - 12:00 D3-5馆
基于大模型的 AI 原生应用越来越多,Java 开发者正扮演构建 AI 原生应用的重要力量;同时,容器和微服务为代表的云原生技术已加速渗透传统业务,安全、稳定和效率成为大家关注的重点。
本专场将聚焦 AI 原生应用的行业进程,分享企业借助 AI 原生技术加速业务创新和迭代过程中,应对效率和性能提升、成本优化和安全防护的实践,旨在为一线工程师、架构师和技术管理人员提供可借鉴的经验。01
议题一:
AI 时代,从 Spring Cloud Alibaba 到 Spring AI Alibaba
分享嘉宾:
李艳林,阿里云智能集团云原生微服务技术负责人,Spring AI Alibaba 发起人
演讲提纲
1. 应用框架的发展趋势
- AI 时代应用架构的演进趋势。
- AI Agent 框架的发展趋势。
2. Java 开发者视角的 AI 原生应用架构
- Spring-AI-Alibaba:让 Java 开发者一步迈入 AI 原生时代。
- Higress:零代码构建 AI 应用。
- Apache RocketMQ:事件驱动 AI 架构。
- LLM 观测技术栈。
3. AI 原生应用架构的落地&实践
- AI 场景&选型。
- AI 答疑专家的实践。
- AI 视频处理的实践。
需求或痛点
- 如何将 Java 的可移植性、模块化设计等设计原则融入 AI 应用的开发。
- Java 开发者如何快速开发 AI 应用。
- 从技术栈视角看,如何确保一致性。
亮点
- 发布 Spring-AI-Alibaba,为 Java 开发者提供开箱即用的 AI 框架。
- 发布 Higress 全新版本,提供完整的 AI 插件,零代码构建 AI 应用。
- 发布 RocketMQ Python SDK。
- 贡献 Java/GO/Python Agent 到 OT 社区,夯实 LLM 观测体系。
听众收益
- 了解完整的 AI 原生应用架构。
- 了解关键开源项目的进展和演进方向。
- 了解 AI 原生应用架构的落地实践。
02
议题二:
从云原生到 AI 原生,网关的发展趋势和最佳实践
分享嘉宾:
谢吉宝,阿里云智能集团资深技术专家,云原生产品线中间件负责人
演讲提纲
1. 从云原生到 AI 原生,网关的机遇和挑战
- 软件架构演进过程中,网关的发展历程。
- AI 原生应用所带来的流量新特点,网关所遇到的痛点。
- 云原生 API 网关:高集成化解云原生和 AI 原生的复杂场景。
2. 云原生 API 网关的价值和优势
- 高集成:零代码构建 AI 应用。
- 零信任:AI 防护 & 内容合规。
- 高性能:软硬一体加速响应体验。
- 高可用:服务治理无损变更。
3. 云原生 API 网关的实践、典型客户和 Demo
- 云产品案例:通义APP、灵积、人工智能平台 PAI。
- 云上客户案例:零一万物、震坤行。
- 开源贡献:AI 原生的 API 网关 Higress。
- Demo:配置大模型代理、AI 统计、内容安全等插件。
需求或痛点
- AI 产业日均总流量达亿级别,流量的新特点给网关带来了新的痛点。
- LLM 应用的内容生成时间更长,对话连续性对用户体验至关重要,如果避免后端插件更新导致的服务中断?
- LLM 应用在服务端处理单个请求的资源消耗会大幅超过客户端,来自客户端的攻击成本更低,后端的资源开销更大,如何加固后端架构稳定性?
- 如何防止黑灰产爬取免费调用量封装成收费 API 所造成的资损?
- LLM 应用生成的内容则是基于人工智能推理,如果保障生产内容的合规和安全?
亮点
- 发布云原生 API 网关,统一流量网关、微服务网关、安全网关、AI 网关,高集成化解云原生和 AI 原生的复杂场景。
- 通义APP、灵积、人工智能平台 PAI 这些云产品如何基于云原生 API 网关构建网关架构。
- 零一万物、震坤行如何基于云原生 API 网关承载 LLM 应用。
- 开源网关 Higress 推出丰富的免费插件市场。
听众收益
- 了解网关的发展历程,升级网关在架构中的角色。
- 了解云原生 API 网关的应用场景。
- 了解云原生 API 网关的典型客户案例。
03
议题三:
微服务引擎 MSE:打造通用的企业级微服务架构
分享嘉宾:
邢学超,阿里云智能集团高级技术专家
演讲提纲
1. 微服务技术的新趋势和新挑战
- 新趋势:开源标准化、跨语言架构、高可用成为企业标准诉求。
- 新挑战:开源维护成本高、跨语言复杂度高、高可用改造代价高。
2. 微服务引擎 MSE:打造通用企业级微服务架构
- 流量入口:跨语言、跨框架服务治理,默认高可用、高安全,高性能。
- 内部流量:内部 RPC 流量,通过注册中心进行寻址,集群可以通过配置中心整体管理 。
- 微服务治理:管理业务应用的治理,增强业务高可用能力 。
- 默认高可用、默认安全零信任、默认性能翻倍。
3. 微服务引擎 MSE:拥抱开源,坚持开放
- 引领国内微服务架构,相关开源项目有 60%市场份额。
- 快速构建 Spring AI 标准应用,提供 AI 场景下的最佳 Java 实践。
- 通过云原生让应用场景更加融入 AI,通过 AI 原生让更多云原生应用赋予智能。
4. 微服务引擎 MSE:最佳实践以及演示视频
- 应用上云迁移实践。
- 全链路灰度演示视频。
需求或痛点
- 开源虽然“自主可控”,但伴随业务增长,维护成本日益增高、风险日益放大,控制力日益减弱,如何一劳永逸提升效率、保障稳定性?
- 研发团队越来越多元化,跨语言越来越流行,如何统一治理跨语言服务?
- 业务的容灾诉求逐渐强烈,但改造迭代代价大,如何低成本、不改代码的提升容灾能力?
亮点
- MSE ScheduleX 发布 XXL-Job 实例型,0代码改造,自建 XXL-Job 平滑迁移到 ScheduleX XXL-Job 协议实例型,更稳定、更安全、更高性能。
- MSE 发布 Golang 治理能力,整合 GoLang 和 Java 应用服务框架 ,进行全局服务治理。
听众收益
- 了解微服务技术的新趋势和新挑战。
- 了解微服务引擎 MSE 的产品优势和原理。
- 了解微服务引擎 MSE 的应用场景。
若您对上方议题内容感兴趣,欢迎在云栖大会官网进行订阅。