Hawa Code Proxy Tool 工具懒加载如何做到 Prompt Cache 不失效?

简介: Proxy Tool 是一种按需加载工具的机制,用于解决 Agent 加载海量工具导致上下文爆炸、Token 消耗过高的问题。它仅需一个代理工具,动态加载描述与参数结构(支持 TypeScript 格式以省 Token),再通过 `load` 和 `call` 两个动作调用目标工具,兼顾效率与扩展性。

当一个 Agent 同时加载成千上万工具或者 MCP 的,上下文会爆炸,每次请求都会消耗大量的 Token,这时候最好的方式是按需加载工具,从而减少 Token 消耗 。 Proxy Tool 就是为解决这个问题而生  Agent 只需要一个 Proxy Tool,其会按需加载其他工具,通过  Proxy Tool 调用其他工具,从而大量减少上下文消耗。

基础原理

Proxy Tool  提供两个 Action :

  • load:加载工具的描述信息和出参和入参的结构
  • call:通过工具的名称执行指定的工具

Proxy Tool 同时支持 Hawa Code 内置工具和 MCP 扩展工具。

Load

使用  Hawa Code  使用 load 加载工具的描述信息,注意没有使用  json schema ,使用 typescript 格式更加节省 Token 。

# Read
Reads a file from the local filesystem. You can access any file directly by using this tool.
Assume this tool is able to read all files on the machine. If the User provides a path to a file assume that path is valid. It is okay to read a file that does not exist; an error will be returned.
## Input (TypeScript)
```typescript
type ReadInput = {
  /** The absolute path to the file to read */
  file_path: string;
  /** The line number to start reading from. Defaults to reading from the first line. Only provide if the file is too large to read at once. */
  offset?: number;
  /** The number of lines to read. Defaults to reading until the last line of the file. Only provide if the file is too large to read at once. */
  limit?: number;
};

Call  

通过被代理的 Tool 的名称和参数执行工具调用。

"input": {
    "action": "call",
    "input": {
        "file_path": "D:\\Javaworks\\hawa-code\\README.md"
    },
    "name": "Read"
},

Prompt Cache

模型都支持 Prompt Cache 功能,就是当前请求的前缀不变的情况下,可以复用 KV Cache,后续请求可以避免前缀的计算。

Anthropic Claude 的前缀格式如下:

[Tool Definitions] + [System Prompt] + [Conversation History...]

如果工具列表发生变化,就会导致整个前缀失效,Proxy Tool load 加载的内容是直接放到历史消息中的,并没有影响前缀任何内容。Prompt Cache 不会收到任何影响。

Hawa Code load 模式为了最大化减少 Token  会导致前缀变化。

Proxy Tool vs Code Mode

Hawa Code Proxy Tool  和 Code Mode 都可以做到工具按需加载,支持上万数量数量工具数量,在使用场景上两者是互补关系。

  • Proxy Tool 是单个工具调用,无法做到多个工具级联调用。
  • Code Mode 更加注重多个工具的级联调用,一个工具就是一个 API,就像写代码一样进行工具调用。

Hawa Code 主要提供 Proxy Tool 和 Code Mode 两个工具就可以实现所有功能


欢迎使用 Hawa Code https://www.hawacode.com/

目录
相关文章
|
4月前
|
人工智能 IDE 开发工具
阿里云Qoder CN(原通义灵码)全解析:产品形态、版本划分与技术适配指南
Qoder CN是阿里云推出的AI智能编码助手,前身为“通义灵码”,于2026年5月20日完成品牌升级,正式更名为Qoder CN。作为面向软件开发全流程的智能体产品,它覆盖编码、办公、终端等多元场景,基于国内主流大模型与国内部署架构,满足金融、政务等行业对数据安全与合规的高要求。
2528 0
|
2月前
|
人工智能 开发框架 Java
如何入门学习 Agent 开发?
本文分享Agent开发实战经验:强调甄别一手资讯、聚焦Context本质而非框架、坚持实操落地、重视效果评测与自我迭代,助新手避开玄学误区,从真实场景出发高效入门。(238字)
120 5
|
20天前
|
弹性计算 人工智能 Linux
阿里云最新价格最便宜云服务器解析:轻量应用服务器抢购38元,云服务器99元和199元区别与选购指南
本文针对个人站长、学生与小微企业的低成本上云需求,系统梳理阿里云38元/年轻量服务器、99元/年e实例、199元/年u1实例三款低价产品的配置差异、抢购规则、续费政策与适用场景,拆解新用户资格、峰值带宽、续费同价等核心细节,避开低价套餐常见坑点,帮助不同需求的用户精准匹配高性价比云服务器选型方案。
|
20天前
|
人工智能 算法 API
DeepSeek V4.1 Flash 内测上手:新架构多模态模型,快速体验教程
DeepSeek V4.1 Flash内测上线!采用全新架构,原生支持图文多模态,推理更快、成本更低。现仅限内测用户体验,API调用只需切换model名,无需改base_url。适合开发者快速验证多模态原型。
DeepSeek V4.1 Flash 内测上手:新架构多模态模型,快速体验教程
|
20天前
|
JSON 前端开发 API
一周双旗舰上架百炼:qwen3.8-max-0902 与 DeepSeek-V4.1-Flash 的 CLI 侧同题实测
九月,百炼上线qwen3.8-max-0902与DeepSeek-V4.1-Flash两大新模型,均享百万token免费额度。本文实测同题前端编程任务,揭示二者在max-tokens语义、思考模式、生成质量、耗时及成本上的关键差异,为开发者选型提供一线实践依据。(239字)
|
21天前
|
域名解析 弹性计算 缓存
阿里云【域名解析】图文详细流程(步骤详细小白也能搞定)
阿里云域名解析太迷?2026最新保姆级图文教程上线!3分钟手把手教会小白快速定位「云解析DNS」、一键添加@/www解析、验证生效,零基础也能搞定网站上线。
516 1
|
21天前
|
人工智能 API 开发者
DeepSeek V4.1‑Flash内测实战全手册:API调用、多模态测试、客户端接入与排错完整教程
在大模型快速迭代的节奏下,很多厂商会放出限时中间内测版本,让开发者抢先体验新架构带来的能力提升。DeepSeek V4.1‑Flash就是一款限时开放的中间内测MoE架构模型,采用全新CED因果编码器‑解码器混合专家架构,原生内置图文多模态理解,推理吞吐速度相比V4‑Flash正式版本得到显著提升,同时沿用原有正式版本的计费标准,不需要额外付费。该内测版本不需要重新申请API密钥,基础网关地址保持不变,开发者仅仅修改请求内部model参数即可完成调用。
372 0
|
21天前
|
供应链 安全 JavaScript
输入法应用嵌入浏览器漏洞的攻击链研究
CVE-2026-51990是搜狗输入法Windows版的一键远程代码执行漏洞,由URI参数注入、WebView导航失控及过时无沙箱Chromium 80引擎三缺陷串联构成。攻击者诱导点击即可部署GrayRabbit后门。腾讯已发布补丁限制协议参数与域名,但底层引擎风险犹存。(239字)
290 1
|
21天前
|
人工智能 监控 数据可视化
告别单会话Agent,QoderWake1.0正式发布:7×24值守数字员工如何重塑企业人机协同
在Agent技术快速迭代的今天,绝大多数智能体产品依旧停留在桌面端单人对话模式,任务生命周期局限单次会话,一旦关闭窗口,上下文全部丢失,很难真正嵌入企业日常办公流程。很多AI智能体只能被动接收用户指令,无法融入团队IM协作,不能自动承接定时、业务事件驱动的工作,难以成为真正参与业务流转的虚拟同事。QoderWake 1.0的正式发布,把Agent能力从桌面软件内部延伸到企业真实工作现场,推出完整可运营的数字员工团队平台,以Waker作为数字员工载体,实现“一句话建岗”,支持常驻办公群聊响应指令、多数字员工协同配合、跨任务持久记忆、多种触发模式调度任务,帮助组织落地规模化人机协同,释放AI生产力
209 1
|
20天前
|
人工智能 自然语言处理 前端开发
字节用半年让85%的AI用例跑进CI/CD,你的团队还在为“AI生成不能用”发愁?
本文剖析字节跳动NL2Test Agent成功落地的五大关键:聚焦“用例转译”而非替代、先闭环再优化、LLM与程序分工协作、精准治理上下文、优先生成稳定断言。对比失败案例,揭示AI测试成败核心在工程设计,而非模型能力。

热门文章

最新文章