从“复制粘贴”到“设计模式”:​一次AI系统LLM调用层的重构实践

简介: 本文分享AI聊天系统LLM调用层重构实践:针对4个模块740行重复代码的“维护炸弹”,引入策略、工厂、外观模式,构建三层抽象架构。业务代码减少267行,新增模型成本降至1个类,统一接入监控,显著提升可维护性与可观测性。(239字)

在AI应用开发的初期,​为了追求快速上线,​我们常常会把各种逻辑一股脑地塞进业务代码里。​当业务模块还只有一个时,​这似乎是最高效的选择。​然而,​当第二个、第三个相似的模块出现时,​这种“短期最优解”很快就会演变成一颗随时可能引爆的“维护炸弹”。​最近,​我主导了公司AI聊天系统中LLM(大语言模型)调用层的重构,​深刻体会到设计模式并非教科书上的理论,​而是解决现实复杂性的实用工具。​

重构前,​我们的系统面临着典型的“复制粘贴”困境。​系统中有四个核心业务模块——AI伙伴群聊(ChatProcessor)、观点辩论场(DebateProcessor)、情绪树洞(TreeHoleService)和模型自动对话(ModelAutoChatService),​它们都需要调用大模型。​尽管业务场景各不相同,​但其底层的调用逻辑却高度相似:​构建HTTP请求、处理API Key、解析响应、处理流式数据。​这套逻辑被原封不动地复制了4份,​散落在各个业务类中,​累计约740行重复代码。​

这意味着,​每当需要新增一个模型供应商,​或是调整一次响应解析逻辑,​开发者都必须在4个文件中同步修改。​这不仅效率低下,​而且极易出错。​更糟糕的是,​当需要为所有LLM调用增加“调用次数统计”或“延迟监控”等横切关注点时,​因为没有统一的入口,​我们只能在4个类里各加一遍,​很容易遗漏。​问题的根源在于,​业务开发初期缺少前瞻性的架构设计,​将LLM调用逻辑与业务代码强耦合,​随着业务扩张,​其弊端暴露无遗。​

为了解决这一复杂性,​我引入了策略(Strategy)、工厂(Factory)和外观(Facade)三种设计模式,​构建了一个清晰的三层架构。​

重构架构

重构架构.jpg

首先是策略模式(Strategy),​它用于封装不同模型供应商的调用差异。​我们抽象出一个LLMStrategy接口,​定义了invoke(非流式)和invokeStream(流式)等标准方法。​然后,​为不同的供应商实现具体的策略类。​例如,​OpenAICompatStrategy覆盖了千问、DeepSeek等兼容OpenAI接口的模型;​而DoubaoStrategy则专门处理豆包早期非标准的/responses接口。​这样,​新增一个模型供应商,​只需增加一个新的策略类,​完全符合开闭原则,​对现有代码零侵入。​

其次是工厂模式(Factory),​它负责根据供应商名称,​自动路由到对应的策略。​业务层无需关心具体使用哪个策略类,​只需告诉工厂供应商的名字(如qwen或doubao),​工厂就会返回一个正确的LLMStrategy实例。​这实现了调用方与具体实现的解耦,​让业务代码更加干净。​

最关键的则是外观模式(Facade)。​我们创建了一个LLMInvoker类作为统一入口,​它收敛了所有“横切关注点”。​在LLMInvoker内部,​它首先通过工厂获取策略,​然后统一处理baseUrl解析、API Key选择、调用统计和日志记录等公共逻辑,​最后才委托给具体的策略去执行调用。​业务层从此只需调用llmInvoker.invoke()这一行简洁的代码,​即可完成所有复杂操作。​

重构的效果立竿见影。​业务层代码净减少了267行,​核心调用逻辑从4个分散的入口收敛为1个。​新增模型供应商的成本,​从修改4个文件降低为只增加1个策略类。​更重要的是,​所有LLM调用都自动接入了监控体系,​成功率、延迟等数据一目了然,​系统的可观测性得到了质的飞跃。​

这次重构让我明白,​设计模式不是银弹,​而是“复杂性管理工具”。​当重复代码出现、变化成为常态时,​恰当地引入一层抽象,​能将混乱梳理为清晰的流水线。​重构的终极目标,​从来不是为了炫技,​而是为了让下一次需求变更来得更快、更安全。

目录
相关文章
|
3天前
|
存储 弹性计算 缓存
阿里云服务器租赁费用:新版租赁收费标准及活动报价参考
本文更新了2026年阿里云全系列云服务器租赁活动报价,所有特惠资源均可前往阿里云活动中心选购,整体覆盖从个人入门到企业级高性能场景的全梯度需求。其中轻量应用服务器主打极致性价比,2核2G峰值200M带宽配置每日10点、15点限时抢购价仅38元/年,2核4G配置379元/年起;高性价比的经济型e实例、通用算力型u2i实例覆盖2核4G至4核32G全档位,适配开发测试与中小型企业业务;搭载英特尔至强6处理器的第九代c9i企业级实例算力较上代提升20%,支撑高并发生产环境,不同实例规格价差清晰,用户可根据自身业务负载与预算灵活选型。
1422 109
|
10天前
|
云安全 人工智能 运维
阿里云联动百位企业安全专家,共识Agent防御最佳实践
当Agent成为新员工,你的安全边界在哪里?
1931 8
阿里云联动百位企业安全专家,共识Agent防御最佳实践
|
4天前
|
编解码 人工智能 安全
2核4G/4核8G/8核16G阿里云服务器如何选择实例?经济型e、通用算力型u2i与计算型c9i选哪个?
本文介绍了阿里云2核4G、4核8G、8核16G三档主流配置下经济型e、通用算力型u2i和计算型c9i三种实例的最新活动价格与适用场景。同配置下三者价差显著,以2核4G为例,经济型e低至599.93元/年,计算型c9i则高达1742.08元/年。文章详细解析了各实例的性能定位:经济型e适合轻负载入门场景,u2i兼顾稳定算力与性价比,c9i凭借第9代至强处理器与芯片级安全能力支撑高性能业务。同时提示用户可叠加满减优惠券享受折上折,建议根据业务负载与预算综合决策。
513 112
|
4天前
|
人工智能 程序员 API
Codex 接入 DeepSeek-V4-Flash:还能补上识图,提供两套方案
Codex 接入 DeepSeek-V4-Flash 怎么配?本文覆盖 CLI 与桌面端,再用 qwen3-vl-flash 补识图,两套方案可直接照做
|
8天前
|
存储 人工智能 关系型数据库
阿里云AI产品与云产品最新组合套餐:Token Plan、AI coding及云服务器和建站等组合优惠价
阿里云推出全新“算力+模型+应用”一站式云与AI组合套餐活动,覆盖从个人开发者到中大型企业的全场景需求。核心亮点为分三档定价的Token Plan订阅服务,支持Qwen3.8-Max-Preview大模型调用,错峰时段最低可享0.2折优惠。活动同步推出AI Coding、智能体部署、云电脑托管、0代码建站等十余类场景化组合,搭配99元/年的普惠云服务器、88元/年的入门数据库等经典特惠产品,还为企业提供1V1定制化AI转型方案,大幅降低了不同用户群体拥抱AI的技术门槛与采购成本。
698 111
|
18天前
|
人工智能 JSON 安全
Fastjson远程代码执行漏洞,阿里云AI安全为您保驾护航
阿里云AI安全产品联动防御Fastjson攻击
2616 13
Fastjson远程代码执行漏洞,阿里云AI安全为您保驾护航
|
16天前
|
人工智能 前端开发 Linux
Codex 桌面版安装 + CC Switch 接入第三方 API 完整教程(2026 最新)
2026最新教程:手把手教你安装Codex桌面版,通过CC Switch v3.17.0一键接入Fenno等国产API(兼容OpenAI Responses格式),跳过账号登录,完整启用代码审查、多步任务与上下文感知功能。零基础友好,全程图文实操。(239字)
2209 3
|
5天前
Qoder 一周年 × Qwen3.8-Max 正式上线,多重好礼限时领
8月3日,Qwen3.8-Max 正式上线Qoder,迎来Qoder一周年。新老用户可领800次免费调用,下单再赠2000次;夜间(22:00–08:00)调用5折;邀请好友双方得积分与调用额度。
344 0
|
18天前
|
人工智能 自然语言处理 数据挖掘
Qwen3.8-Max-Preview深度全解析:2.4万亿参数旗舰MoE模型+Token Plan限时优惠完整落地指南
2026年7月,全新旗舰级混合专家大模型Qwen3.8-Max-Preview正式开放抢先体验,作为通义千问Qwen3系列规格最高、综合推理能力顶尖的新一代模型,该模型总参数量达到2.4万亿(2.4T),是当前线上可调用的原生多模态旗舰模型,综合推理水准对标海外顶级Fable 5模型,在复杂工程开发、长文档深度分析、多步骤智能体自治、跨境多语言创作、海量数据挖掘五大高难度业务场景实现跨越式性能提升。
1525 3

热门文章

最新文章