从 Dify 迁移到 Spring AI Alibaba 的收益
通过将 Dify 可视化开发的应用转换为 Spring AI Alibaba,既能充分的利用 Dify 可视化界面高效搭建 AI 应用的优势,又能充分利用 Spring AI Alibaba 框架带来的灵活性与高性能,可以更灵活的应对更复杂多变的 AI 业务开发场景。
- 扩展灵活度。使用低代码平台的可视化 UI 界面可以快速的绘制工作流,将脑海中的思路变成可运行的 AI 系统,但低代码平台存在很多开发约束,这可能会给生产落地过程中带来改造成本或障碍。而使用 Spring AI Alibaba 开发的工程,开发者具备完全掌控权,因此对于任何功能几乎都不存在扩展障碍。有了这一套转换系统,开发者可以享受可视化绘制的便捷性,同时在转成代码工程后可享受开发、部署的灵活度。
- 性能提升。 根据社区的初步压测效果,对比 Dify 平台的开发部署模式,使用 Spring AI Alibaba 部署的智能体应用,能带来至少 10 倍的性能提升(同时具备更大的调优空间)。
更广泛的适用场景
比如,对于以下场景,非常适合从 Dify 迁移到 Spring AI Alibaba 应用开发。
• 开发者或不熟悉开发的产品经理,使用 Dify 来快速验证业务想法,搭建出可以快速运行 AI 应用,大家可以在此基础上讨论与决策;而在进入真正的业务开发阶段时,利用一键导出能力快速生成 Spring AI Alibaba 应用,在此基础上继续调整和部署应用逻辑。
• 已经有使用 Dify 平台开发部署的应用,处于维护灵活度、语言栈、性能等方面的因素需要往代码态迁移,此时可以一键导出 Spring AI Alibaba 工程,大幅简化迁移成本。
相比 Dify 性能提升 10 倍
经过压测,与直接在 Dify 平台上运行 AI 应用相比,Spring AI Alibaba 应用在最大并发数、吞吐量、大流量场景下稳定性等方面均明显优于 Dify 平台。
压测场景一:逐步加压最大 QPS
• 压测方式:每个场景从 10 个 RPS(Request Per Second)开始,逐步提升,直到提升 RPS 值并不能带来 TPS 提升、成功率答复下降。
• 结论: Dify 能处理的上限 RPS < 10;Spring AI Alibaba 能处理的上限 RPS 约 150。
Dify 平台压测结果
Spring AI Alibaba 应用压测结果
压测场景二:极限场景下的吞吐量与稳定性
• 压测方式:给集群远高于合理并发的压测请求量(测试场景为 1000 RPS),看集群的吞吐量、成功率变化。
• 结论: Dify 在此场景下成功率小于 10%,平均 RT 接近 60s,大部分请求出现超时(响应大于 60s);Spring AI Alibaba 成功率变化不大,维持 99% 以上,平均 RT 也在 18s 左右。
Spring AI Alibaba 应用压测结果
以下压测过程均使用两个框架/平台安装时的默认值,部署集群/实例规格如下: - SAA 工程:独立部署的容器,2个POD,规格 2C4G
- DIFY 平台:官方部署方式,每个组件都拉起2个POD,规格 2C4G
更高的应用开发灵活性
毫无疑问,相比于在 Dify 平台上开发应用,使用 Spring AI Alibaba 开发应用将带来更高的灵活性、可扩展性,您将对自己的应用逻辑具备完全的控制权。
总结与未来规划
Spring AI Alibaba 定位为一款 Agentic AI 开发框架,通过简单的 API 降低复杂度、提升研发效率,使用框架可以快速开发包括聊天助手、工作流、多智能体等 AI 应用。
Spring AI Alibaba Studio 作为生态工具,可以进一步简化从应用原型搭建、Debug 调试到运行效果监控等多个环节。本文提到的 Dify 应用转换是 Studio 兼容计划中的重要一环,接下来 Spring AI Alibaba 会发布完整的可视化 Studio 模块,加速整个 Java Agent 体系开发效率,同时兼容 Dify、百炼等低代码开发平台。
相关链接 - https://github.com/alibaba/spring-ai-alibaba
- https://github.com/alibaba/spring-ai-alibaba/blob/main/spring-ai-alibaba-graph/spring-ai-alibaba-graph-studio/