LangChain脚本如何调度及提效？

2025-05-15 184

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

本文涉及的产品

服务治理 MSE Sentinel/OpenSergo，Agent数量不受限

注册配置 MSE Nacos/ZooKeeper，118元/月

云原生网关 MSE Higress，422元/月

简介： 本文介绍了通过任务调度系统SchedulerX管理LangChain脚本的方法。LangChain是开源的大模型开发框架，支持快速构建AI应用，而SchedulerX可托管AI任务，提供脚本版本管理、定时调度、资源优化等功能。文章重点讲解了脚本管理和调度、Prompt管理、资源利用率提升、限流控制、失败重试、依赖编排及企业级可观测性等内容。同时展望了AI任务调度的未来需求，如模型Failover、Tokens限流等，并提供了相关参考链接。

概述

LangChain[1]是开源领域最流行的大模型编程开发框架，支持通过python/js语言快速构建AI应用。Dify[2]是开源的图形化大模型应用开发平台，可以通过可视化的画布拖拖拽拽快速构建AI agent/工作流。

通过任务调度系统托管AI任务，可以进行脚本版本管理、定时调度、提升资源利用率、限流控制、可运维、可观测。

由于篇幅有限，本文章主要介绍通过任务调度SchedulerX[3]进行LangChain脚本的管理和调度，Dify工作流调度将在下一篇介绍。

脚本管理及调度

AI任务有许多业务场景，需要定时调度，比如：

风险监控：每分钟扫描风险数据，通过大模型分析是否有风险事件，并发出报警。
数据分析：每天拉取金融数据，通过大模型进行数据分析，给出投资者建议。
内容生成：每天帮我做工作总结，写日报。

LangChain任务基本上都是python脚本，可以使用SchedulerX的脚本任务[4]托管脚本，并进行定时配置

任务调度SchedulerX还支持脚本的历史版本，方便进行历史版本的对比和回滚：

Prompt管理

Prompt（提示词）对于AI任务来说非常重要，为了得到好的效果，可能需要经常修改Prompt，将Prompt写在脚本中会非常麻烦。我们可以通过SchedulerX的任务参数来管理Prompt，在LangChain脚本中通过SchedulerX提供的系统参数（#{schedulerx.jobParameters}）动态获取任务参数，来代替Prompt或者PromptTemplate参数。

定时调度获取Prompt

Prompt写法

1. 通过SchedulerX控制台编写脚本

from langchain_community.llms import Tongyi
from langchain.prompts import PromptTemplate
from langchain.chains import LLMChain

llm = Tongyi(model="qwen-plus")
question = "#{schedulerx.jobParameters}"
print("question:" + question)

results = llm.invoke(question)
print(results)

2. 配置任务参数

PromptTemplate写法

1. 通过SchedulerX控制台编写脚本

from langchain_community.llms import Tongyi
from langchain.prompts import PromptTemplate
from langchain.chains import LLMChain

llm = Tongyi(model="qwen-plus")
prompt = PromptTemplate(template="请帮我解答这个问题：{question}")

chain = LLMChain(llm=llm, prompt=prompt)
question = "#{schedulerx.jobParameters}"
print("question:" + question)

results = chain.invoke(question)
print(results)