从“复制粘贴”到“设计模式”:​一次AI系统LLM调用层的重构实践

简介: 本文分享AI聊天系统LLM调用层重构实践:针对4个模块740行重复代码的“维护炸弹”,引入策略、工厂、外观模式,构建三层抽象架构。业务代码减少267行,新增模型成本降至1个类,统一接入监控,显著提升可维护性与可观测性。(239字)

在AI应用开发的初期,​为了追求快速上线,​我们常常会把各种逻辑一股脑地塞进业务代码里。​当业务模块还只有一个时,​这似乎是最高效的选择。​然而,​当第二个、第三个相似的模块出现时,​这种“短期最优解”很快就会演变成一颗随时可能引爆的“维护炸弹”。​最近,​我主导了公司AI聊天系统中LLM(大语言模型)调用层的重构,​深刻体会到设计模式并非教科书上的理论,​而是解决现实复杂性的实用工具。​

重构前,​我们的系统面临着典型的“复制粘贴”困境。​系统中有四个核心业务模块——AI伙伴群聊(ChatProcessor)、观点辩论场(DebateProcessor)、情绪树洞(TreeHoleService)和模型自动对话(ModelAutoChatService),​它们都需要调用大模型。​尽管业务场景各不相同,​但其底层的调用逻辑却高度相似:​构建HTTP请求、处理API Key、解析响应、处理流式数据。​这套逻辑被原封不动地复制了4份,​散落在各个业务类中,​累计约740行重复代码。​

这意味着,​每当需要新增一个模型供应商,​或是调整一次响应解析逻辑,​开发者都必须在4个文件中同步修改。​这不仅效率低下,​而且极易出错。​更糟糕的是,​当需要为所有LLM调用增加“调用次数统计”或“延迟监控”等横切关注点时,​因为没有统一的入口,​我们只能在4个类里各加一遍,​很容易遗漏。​问题的根源在于,​业务开发初期缺少前瞻性的架构设计,​将LLM调用逻辑与业务代码强耦合,​随着业务扩张,​其弊端暴露无遗。​

为了解决这一复杂性,​我引入了策略(Strategy)、工厂(Factory)和外观(Facade)三种设计模式,​构建了一个清晰的三层架构。​

重构架构

重构架构.jpg

首先是策略模式(Strategy),​它用于封装不同模型供应商的调用差异。​我们抽象出一个LLMStrategy接口,​定义了invoke(非流式)和invokeStream(流式)等标准方法。​然后,​为不同的供应商实现具体的策略类。​例如,​OpenAICompatStrategy覆盖了千问、DeepSeek等兼容OpenAI接口的模型;​而DoubaoStrategy则专门处理豆包早期非标准的/responses接口。​这样,​新增一个模型供应商,​只需增加一个新的策略类,​完全符合开闭原则,​对现有代码零侵入。​

其次是工厂模式(Factory),​它负责根据供应商名称,​自动路由到对应的策略。​业务层无需关心具体使用哪个策略类,​只需告诉工厂供应商的名字(如qwen或doubao),​工厂就会返回一个正确的LLMStrategy实例。​这实现了调用方与具体实现的解耦,​让业务代码更加干净。​

最关键的则是外观模式(Facade)。​我们创建了一个LLMInvoker类作为统一入口,​它收敛了所有“横切关注点”。​在LLMInvoker内部,​它首先通过工厂获取策略,​然后统一处理baseUrl解析、API Key选择、调用统计和日志记录等公共逻辑,​最后才委托给具体的策略去执行调用。​业务层从此只需调用llmInvoker.invoke()这一行简洁的代码,​即可完成所有复杂操作。​

重构的效果立竿见影。​业务层代码净减少了267行,​核心调用逻辑从4个分散的入口收敛为1个。​新增模型供应商的成本,​从修改4个文件降低为只增加1个策略类。​更重要的是,​所有LLM调用都自动接入了监控体系,​成功率、延迟等数据一目了然,​系统的可观测性得到了质的飞跃。​

这次重构让我明白,​设计模式不是银弹,​而是“复杂性管理工具”。​当重复代码出现、变化成为常态时,​恰当地引入一层抽象,​能将混乱梳理为清晰的流水线。​重构的终极目标,​从来不是为了炫技,​而是为了让下一次需求变更来得更快、更安全。

目录
相关文章
|
3月前
|
存储 人工智能 自然语言处理
AI工程 V0.2--从Coding到Delivery的全链路重构及思考
在当前的 AI 浪潮下,我们正处于从单纯的 AI Coding(辅助写代码)向 AI Delivery(全链路交付)转型的关键时期。这不仅仅是工具的升级,更是研发范式、协作模式乃至架构设计的深刻变革。本文基于近期的探索与实践,梳理了我们在 AI 工程化落地过程中的核心思考与技术痛点。
268 0
|
SQL 前端开发 安全
详细介绍前后端分离必备的接口规范,包括命名规范、参数规范、错误处理规范等
详细介绍前后端分离必备的接口规范,包括命名规范、参数规范、错误处理规范等
4091 1
|
安全 JavaScript 前端开发
API 通用规范
API 通用规范
838 0
|
3月前
|
人工智能 文字识别 自然语言处理
2026 智能自动化演进:从规则 RPA 到大模型 Agent RPA 完整路线
2026年,RPA正加速进化为“AI Agent”:大模型负责理解与决策,RPA专注执行与操作,实现自主修复、跨系统协同与自然语言驱动。IDC预测中国RPA+AI市场规模将超70亿元,超自动化成企业数字化刚需。本文详解五大落地场景、三大技术趋势及四大避坑指南,助开发者高效构建安全、稳定、可交付的智能自动化方案。
1579 0
|
28天前
|
设计模式 人工智能 运维
调大模型接口?还是手撸Harness工程!
AI应用的竞争,已从“谁的模型更强”转向“谁的工程化做得更好”。Harness工程的核心,是在LLM和业务间建立编排层,将通用模型打造成“懂你业务的专属AI”。架构底子打好,后续演进才能更快、更稳。
111 1
|
6月前
|
SQL 前端开发 JavaScript
PHP 的异步编程 该怎么选择
本文深入解析PHP异步编程演进:从4.3版Streams非阻塞I/O,到5.5生成器模拟协程,再到8.1原生Fiber;对比EventLoop与Promise(ReactPHP/Amp)方案,剖析回调地狱破解之道,并给出选型建议——重链式逻辑选ReactPHP,重同步体验选Amp+Revolt事件循环。(239字)
481 163
|
3月前
|
存储 分布式计算 Spark
现代艺术--"软件工程"
时隔多年,在无数的夜以继日的实战中,我正式将《软件工程》定义为:《计算机工程与架构技术》,目前更新到V1.4版本。
210 1
|
3月前
|
机器学习/深度学习 人工智能 安全
吴恩达新的免费 AI 课来了,YYDS!我已经学上了
大家好,我是程序员鱼皮。 如果你自学过 AI,那你大概率听过吴恩达老师(Andrew Ng)的名字。他是斯坦福大学的教授,Coursera 联合创始人,全球最知名的 AI 教育者之一。从最早的《Machine Learning》到后来的深度学习系列课程,全世界几百万人通过他的课入了 AI 的门。 最近,吴恩达老师又出新课了,课程名叫《AI Prompting for Everyone》,一共 21
364 0
|
4月前
|
JSON 自然语言处理 API
大模型应用:解锁大模型能力边界:Skill 与 Function Call的底层逻辑与实战应用.117
本文深入解析大模型能力扩展核心机制:Skill(技能)与Function Call(函数调用)的关系。Skill是标准化、可复用的能力单元(如计算器、天气查询),定义“能做什么”;Function Call是执行协议,实现“如何调用”。二者结合突破大模型在实时性、准确性、安全性上的局限,推动其从对话工具进化为可执行复杂任务的智能体。
669 6
|
4月前
|
数据采集 人工智能 运维
AI运维核心解析:Agent、RAG、Skill、MCP概念与落地方法
本文系统解析AI智能运维四大核心技术:Agent(自主任务执行)、RAG(检索增强防幻觉)、Skill(实操能力接口)、MCP(多智能体协同协议),结合运维监控、故障排查等真实场景,提供从原理差异到落地四步法的完整实践路径,助力企业构建可闭环、可协同、可演进的智能运维体系。