Hawa Code Proxy Tool 工具懒加载如何做到 Prompt Cache 不失效?

简介: Proxy Tool 是一种按需加载工具的机制,用于解决 Agent 加载海量工具导致上下文爆炸、Token 消耗过高的问题。它仅需一个代理工具,动态加载描述与参数结构(支持 TypeScript 格式以省 Token),再通过 `load` 和 `call` 两个动作调用目标工具,兼顾效率与扩展性。

当一个 Agent 同时加载成千上万工具或者 MCP 的,上下文会爆炸,每次请求都会消耗大量的 Token,这时候最好的方式是按需加载工具,从而减少 Token 消耗 。 Proxy Tool 就是为解决这个问题而生  Agent 只需要一个 Proxy Tool,其会按需加载其他工具,通过  Proxy Tool 调用其他工具,从而大量减少上下文消耗。

基础原理

Proxy Tool  提供两个 Action :

  • load:加载工具的描述信息和出参和入参的结构
  • call:通过工具的名称执行指定的工具

Proxy Tool 同时支持 Hawa Code 内置工具和 MCP 扩展工具。

Load

使用  Hawa Code  使用 load 加载工具的描述信息,注意没有使用  json schema ,使用 typescript 格式更加节省 Token 。

# Read
Reads a file from the local filesystem. You can access any file directly by using this tool.
Assume this tool is able to read all files on the machine. If the User provides a path to a file assume that path is valid. It is okay to read a file that does not exist; an error will be returned.
## Input (TypeScript)
```typescript
type ReadInput = {
  /** The absolute path to the file to read */
  file_path: string;
  /** The line number to start reading from. Defaults to reading from the first line. Only provide if the file is too large to read at once. */
  offset?: number;
  /** The number of lines to read. Defaults to reading until the last line of the file. Only provide if the file is too large to read at once. */
  limit?: number;
};

Call  

通过被代理的 Tool 的名称和参数执行工具调用。

"input": {
    "action": "call",
    "input": {
        "file_path": "D:\\Javaworks\\hawa-code\\README.md"
    },
    "name": "Read"
},

Prompt Cache

模型都支持 Prompt Cache 功能,就是当前请求的前缀不变的情况下,可以复用 KV Cache,后续请求可以避免前缀的计算。

Anthropic Claude 的前缀格式如下:

[Tool Definitions] + [System Prompt] + [Conversation History...]

如果工具列表发生变化,就会导致整个前缀失效,Proxy Tool load 加载的内容是直接放到历史消息中的,并没有影响前缀任何内容。Prompt Cache 不会收到任何影响。

Hawa Code load 模式为了最大化减少 Token  会导致前缀变化。

Proxy Tool vs Code Mode

Hawa Code Proxy Tool  和 Code Mode 都可以做到工具按需加载,支持上万数量数量工具数量,在使用场景上两者是互补关系。

  • Proxy Tool 是单个工具调用,无法做到多个工具级联调用。
  • Code Mode 更加注重多个工具的级联调用,一个工具就是一个 API,就像写代码一样进行工具调用。

Hawa Code 主要提供 Proxy Tool 和 Code Mode 两个工具就可以实现所有功能

目录
相关文章
|
7天前
|
人工智能 API 内存技术
刚刚 DeepSeek V4.1 Flash 开启内测,1 分钟教你用上!
刚刚 DeepSeek 内测群发布了 DeepSeek V4.1 Flash 中间版本内测的消息,这次的模型采用了新的结构,原生支持多模态、能力更强、速度更快、且成本更低。
1792 10
|
11天前
|
人工智能 运维 BI
阿里云千问办公QwenWork深度解析:基于Qwen3.8,六大核心能力重构企业全自动化工作流与计费选型指南
传统AI办公工具大多停留在对话问答、文档摘要、简单文案生成层面,只能完成单点碎片化任务,无法自主拆解复杂业务流程,很难串联多工具、多文档、外部业务系统完成端到端完整工作交付。很多企业在落地AI办公的时候,需要组合多款不同工具,来回切换界面,手动复制粘贴中间结果,智能化改造落地门槛居高不下。千问办公QwenWork是整合多款智能体产品能力打造的一体化企业办公智能体平台,底层基座依托Qwen3.8大模型,打通桌面端Agent、云端Agent、企业协同Agent三种运行形态,不再局限简单问答,接收业务目标之后自主拆解任务步骤,调用各类工具,处理文档、表格、浏览器自动化、数据查询,直接输出可交付的办公
1644 3
|
12天前
|
网络协议 Linux iOS开发
【2026实测】Wireshark下载+安装+汉化+使用教程(图文版,巨详细)
Wireshark 是一款免费开源的网络协议分析工具,可实时捕获、解析并可视化数据包,助你诊断网络故障、分析通信协议(如HTTP、DNS、TCP等)。支持Windows/macOS/Linux,含中文界面,新手入门便捷。(239字)
|
8天前
|
SQL 人工智能 前端开发
QoderWake 1.0 正式发布:从桌面里的 Agent,到工作现场的数字员工
QoderWake v1.0正式发布:企业级数字员工团队平台。支持“一句话建岗”,预置10类特训岗位;Waker常驻钉钉/飞书群,@即响应、自动协作、跨任务记忆;具备定时/事件/API多触发方式与统一任务看板;已沉淀27.6万条记忆、12.3万项技能,助力组织实现人机协同增效。
780 2
|
6天前
|
缓存 测试技术 API
DeepSeek V4.1 Flash 内测接入:改个模型名即可调用(附代码)
DeepSeek V4.1 Flash 内测不用申请,base_url 不变、改个模型名就能调,9/10 到期。本文讲清接入、计费限流与多模态注意点。
806 0
DeepSeek V4.1 Flash 内测接入:改个模型名即可调用(附代码)
|
20天前
|
人工智能 自然语言处理 安全
阿里云千问办公、Qoder Teams、Qoder CN区别与选择指南:模型能力、适用场景与最新活动参考
本文聚焦阿里云2026年推出的三款自研AI办公产品,清晰拆解千问办公、Qoder Teams、Qoder CN的差异化定位与能力边界:千问办公主打职场全场景提效,支持自然语言指令一键完成PPT生成、数据分析等高频办公任务;Qoder Teams面向程序员团队,深度整合AI代码生成、团队协同与企业知识库能力;Qoder CN则专为金融、政务等强合规场景打造,实现数据不出境与VPC私有化部署。文章同步给出分场景选型指南与最新活动定价,帮助不同类型的企业按需组合产品,实现业务岗、研发岗与强合规场景的AI能力全覆盖。
3970 5
阿里云千问办公、Qoder Teams、Qoder CN区别与选择指南:模型能力、适用场景与最新活动参考
|
11天前
|
人工智能 自然语言处理 安全
阿里云AI数智鉴密:AI 生成内容如何拿到一张"防篡改的身份证"
隐形水印 + C2PA签名:让AI生成内容“持证上岗”。
1156 0
|
13天前
|
缓存 数据可视化 开发工具
DeepSeek Harness 怎么更新?dsh 更新完整指南:更新本体(npx、npm、源码)与更新插件两种方式
DeepSeek Harness 的更新分两层:本体更新(npx 自动最新、npm update -g、源码 git pull)与插件更新(插件市场点更新、命令行覆盖安装)。本文按「准备 → 更新本体 → 更新插件 → 更新后检查」四步走,覆盖新手常见疑问。
1529 1
DeepSeek Harness 怎么更新?dsh 更新完整指南:更新本体(npx、npm、源码)与更新插件两种方式
|
6天前
|
人工智能
千问办公官网入口:阿里AI办公QwenWork产品页和免费网页端链接
千问办公官网含两大入口:一是网页端(qwenwork.cn),即开即用,支持浏览器直接访问;二是阿里云产品页 https://t.aliyun.com/U/JNKJuO 提供免费/付费版详情、功能介绍及使用指南。

热门文章

最新文章