deerflow2.0 -- harness

简介: deerflow2.0 重点分析
  1. 所谓harness,  就是有效的整合 tools,skills,mcp,llm,memory,sandbox。然后用langchain组合,用langgraph  执行多agent的图流程,其中leadagent固定实现,子agent通过一个tool 动态创建。
  2. lead-agent和sub-agent 之间通过 trace_id 实现分布式链路追踪
  3. 检查点使用的是langgraph框架默认的检查点,级别是节点级别。记录每个节点的执行状态。
  4. 异常处理大部分使用的是自定义的 ErrorHandlingMiddleware处理的,而langgraph框架的异常处理机制主要用于langgraph框架组件的异常处理,比如checkpoint等。
  5. 当token数超过大模型窗口限制时,触发将消息刷入队列机制,通过配置的summarize_model 模型进行总结并形成新消息
  6. 高并发设计:架构:fatapi+uvicorn+多worker/asyncio.create_task(),agent后台执行/StreamBridge返回结果/asyncio.to_thread + ThreadPoolExecutor
  7. tools工具异常时,tool_error_handling_middleware 统一处理,转换并统一返回Tool_Message。agent 根据prompt来决定是重试、更换、询问用户。其中LoopDetectionMiddleware 来防止无限循环。
  8. sandbox 环境隔离机制有两种实现方式,LocalSandbox和AioSandbox,分别为线程隔离和进程隔离。sandbox提供文件系统和命令行操作能力。所有agent通过http api来调用它来完成需要隔离操作的执行。
  9. 主agent在deerflow的进程中运行;subagent也在deerflow的进程中运行,但通过独立线程( subagent-persistent-loop )运行。
  10. sandbox是会话级别的。同一个会话内,所有agent共享;不同会话之间完全隔离。
相关文章
|
1月前
|
人工智能 自然语言处理 API
阿里云Token Plan(团队版)和Coding Plan怎么选?功能、支持的模型、收费方式与选择指南
阿里云百炼平台提供的Token Plan(团队版) 与 Coding Plan是两种面向不同使用场景的大模型订阅服务。以下将从功能定位、支持模型、计费方式三个维度分别详细介绍,并在此基础上提供清晰的选择策略建议。
|
2月前
|
存储 Kubernetes 监控
阿里云容器服务Kubernetes版(ACK)对接使用完全指南
本文提供了一份完整的阿里云容器服务Kubernetes版(ACK)对接使用指南。首先解析ACK托管版、专有版与Serverless版的架构差异与选型策略,帮助用户根据业务场景做出合理决策。随后详细讲解通过控制台和Terraform创建ACK托管集群的完整流程,涵盖网络规划(Terway与Flannel对比、CIDR配置)、节点池管理等关键环节。在应用部署层面,深入介绍Deployment、StatefulSet等核心工作负载的YAML编排实践,并通过Service与ALB Ingress实现服务暴露与七层负载均衡。存储管理部分系统讲解基于CSI的云盘动态存储卷与ossfs 2.0的使用方法。可
|
2月前
|
人工智能 缓存 监控
构建企业级 AI Agent 工程化实践:从原型到生产环境的跨越
本文深入探讨企业级AI Agent从原型到生产的工程化实践,直面LLM概率性与业务确定性的根本矛盾,提出“LLM负责感知推理、代码保障逻辑执行”的混合架构。系统阐述可观测性、安全护栏、性能优化、数据管理四大工程支柱,并结合IT运维、金融合规等实战场景,提供可落地的LLMOps方法论。
|
2月前
|
运维 监控 Kubernetes
阿里云云原生DevOps:基于ACK构建企业级CI/CD流水线
企业上云后,如何高效地进行应用交付成为核心挑战。本文分享基于阿里云容器服务ACK和云效DevOps平台构建企业级CI/CD流水线的完整实践,涵盖镜像构建、自动部署、灰度发布、安全扫描和成本优化5个核心环节。以一个日活百万的在线教育平台为例,将发布频率从每周1次提升到每天10次,部署成功率从85%提升到99.5%,年节省服务器成本约48万元。
|
2月前
|
人工智能 API 调度
为什么很多 AI Agent 一上线就开始烧钱?我在这个开源项目里看到了答案
ClawRouter 是一个面向 AI Agent 的开源本地路由层,它关注的不只是多模型调用,而是模型选择、成本控制、fallback、Token 压缩和 Agent 运行时调度。
236 0
|
4月前
|
自然语言处理 安全 测试技术
大模型+超自动化:实在Agent从“句意理解”到“跨系统闭环执行”的技术链路
本文剖析实在Agent“六层闭环技术架构”,直击企业级智能体落地核心痛点——“认知-执行断层”。通过垂直大模型+全栈超自动化深度融合,实现从自然语言指令到跨系统业务闭环执行的端到端自主化,兼具国产化适配、强合规与高稳定性,为AI工程化提供可落地的技术范式。
|
2月前
|
Kubernetes Ubuntu 网络协议
|
5月前
|
存储 调度 异构计算
推理平台全景
本次分享介绍了常见的开源推理平台项目: NVIDIA Dynamo, llm-d, Kthena, RoleBasedGroup, OME, AiBrix, KServe
970 8
推理平台全景
|
5月前
|
人工智能 监控 安全
AWS Bedrock 接入 Claude 4.6:近期热门讨论背后的企业落地信号
近期X与GitHub热议AWS Bedrock接入Claude 4.6,焦点已从模型性能转向企业落地难题:认证刷新、配额治理、可观测性与限流。讨论凸显AI工程化分水岭——模型能力趋同,真正瓶颈在于如何无缝融入现有IAM、监控、计费与网络治理体系。

热门文章

最新文章