Hawa Code Proxy Tool 工具懒加载如何做到 Prompt Cache 不失效?

简介: Proxy Tool 是一种按需加载工具的机制,用于解决 Agent 加载海量工具导致上下文爆炸、Token 消耗过高的问题。它仅需一个代理工具,动态加载描述与参数结构(支持 TypeScript 格式以省 Token),再通过 `load` 和 `call` 两个动作调用目标工具,兼顾效率与扩展性。

当一个 Agent 同时加载成千上万工具或者 MCP 的,上下文会爆炸,每次请求都会消耗大量的 Token,这时候最好的方式是按需加载工具,从而减少 Token 消耗 。 Proxy Tool 就是为解决这个问题而生  Agent 只需要一个 Proxy Tool,其会按需加载其他工具,通过  Proxy Tool 调用其他工具,从而大量减少上下文消耗。

基础原理

Proxy Tool  提供两个 Action :

  • load:加载工具的描述信息和出参和入参的结构
  • call:通过工具的名称执行指定的工具

Proxy Tool 同时支持 Hawa Code 内置工具和 MCP 扩展工具。

Load

使用  Hawa Code  使用 load 加载工具的描述信息,注意没有使用  json schema ,使用 typescript 格式更加节省 Token 。

# Read
Reads a file from the local filesystem. You can access any file directly by using this tool.
Assume this tool is able to read all files on the machine. If the User provides a path to a file assume that path is valid. It is okay to read a file that does not exist; an error will be returned.
## Input (TypeScript)
```typescript
type ReadInput = {
  /** The absolute path to the file to read */
  file_path: string;
  /** The line number to start reading from. Defaults to reading from the first line. Only provide if the file is too large to read at once. */
  offset?: number;
  /** The number of lines to read. Defaults to reading until the last line of the file. Only provide if the file is too large to read at once. */
  limit?: number;
};

Call  

通过被代理的 Tool 的名称和参数执行工具调用。

"input": {
    "action": "call",
    "input": {
        "file_path": "D:\\Javaworks\\hawa-code\\README.md"
    },
    "name": "Read"
},

Prompt Cache

模型都支持 Prompt Cache 功能,就是当前请求的前缀不变的情况下,可以复用 KV Cache,后续请求可以避免前缀的计算。

Anthropic Claude 的前缀格式如下:

[Tool Definitions] + [System Prompt] + [Conversation History...]

如果工具列表发生变化,就会导致整个前缀失效,Proxy Tool load 加载的内容是直接放到历史消息中的,并没有影响前缀任何内容。Prompt Cache 不会收到任何影响。

Hawa Code load 模式为了最大化减少 Token  会导致前缀变化。

Proxy Tool vs Code Mode

Hawa Code Proxy Tool  和 Code Mode 都可以做到工具按需加载,支持上万数量数量工具数量,在使用场景上两者是互补关系。

  • Proxy Tool 是单个工具调用,无法做到多个工具级联调用。
  • Code Mode 更加注重多个工具的级联调用,一个工具就是一个 API,就像写代码一样进行工具调用。

Hawa Code 主要提供 Proxy Tool 和 Code Mode 两个工具就可以实现所有功能


欢迎使用 Hawa Code https://www.hawacode.com/

目录
相关文章
|
3月前
|
人工智能 IDE 开发工具
阿里云Qoder CN(原通义灵码)全解析:产品形态、版本划分与技术适配指南
Qoder CN是阿里云推出的AI智能编码助手,前身为“通义灵码”,于2026年5月20日完成品牌升级,正式更名为Qoder CN。作为面向软件开发全流程的智能体产品,它覆盖编码、办公、终端等多元场景,基于国内主流大模型与国内部署架构,满足金融、政务等行业对数据安全与合规的高要求。
2253 0
|
1月前
|
人工智能 开发框架 Java
如何入门学习 Agent 开发?
本文分享Agent开发实战经验:强调甄别一手资讯、聚焦Context本质而非框架、坚持实操落地、重视效果评测与自我迭代,助新手避开玄学误区,从真实场景出发高效入门。(238字)
93 5
|
2天前
|
供应链 安全 JavaScript
输入法应用嵌入浏览器漏洞的攻击链研究
CVE-2026-51990是搜狗输入法Windows版的一键远程代码执行漏洞,由URI参数注入、WebView导航失控及过时无沙箱Chromium 80引擎三缺陷串联构成。攻击者诱导点击即可部署GrayRabbit后门。腾讯已发布补丁限制协议参数与域名,但底层引擎风险犹存。(239字)
152 1
|
1天前
|
弹性计算 人工智能 Linux
阿里云最新价格最便宜云服务器解析:轻量应用服务器抢购38元,云服务器99元和199元区别与选购指南
本文针对个人站长、学生与小微企业的低成本上云需求,系统梳理阿里云38元/年轻量服务器、99元/年e实例、199元/年u1实例三款低价产品的配置差异、抢购规则、续费政策与适用场景,拆解新用户资格、峰值带宽、续费同价等核心细节,避开低价套餐常见坑点,帮助不同需求的用户精准匹配高性价比云服务器选型方案。
|
4天前
|
人工智能 API 开发者
DeepSeek V4.1‑Flash内测完整实战:接口调用、工具接入、踩坑排错与代码示例全指南
新一代MoE架构模型DeepSeek V4.1‑Flash开启限时内测,该版本采用全新模型架构,原生具备多模态图文理解能力,推理生成速度大幅提升,同时沿用原有V4‑Flash计费标准,让开发者可以抢先体验迭代后的模型能力。本次内测属于限时中间版本,使用专门的临时模型标识符`deepseek‑v4.1‑flash‑expires‑on‑0910`,接口基础地址保持不变,不需要重新申请API密钥,只需要修改请求内部model字段就可以完成调用。
198 3
|
23小时前
阿里云轻量应用服务器200M峰值带宽38元和68元有什么区别?没有区别,就看你抢不抢!抢到就是38元!
阿里云轻量服务器新用户专享:38元/年(限时秒杀)与68元/年(直购)配置完全相同——均为2核2G、40GB ESSD、200Mbps峰值带宽、不限流量,区别仅在于是否抢购成功。(239字)
26 0
|
5天前
|
前端开发 IDE Android开发
Qoder 上新 Mobile Use,开始验证移动端应用
Computer Use 已经可以操作电脑,Browser Use 可以进入正在使用的浏览器。Qoder 推出 Mobile Use 插件(Beta),在安卓、鸿蒙与 iOS 上将代码修改接入真机或模拟器,完成运行、交互与结果确认。
127 1
|
2天前
|
人工智能 运维 API
从零到一,DeepSeek Harness开发实战:四种预设模式详解、插件安装卸载、常见报错故障排查全解
在大模型应用快速迭代的今天,单纯的对话API只能够完成文本输出,想要让AI具备读写本地文件、执行终端脚本、多步骤任务拆解、子智能体调度的真实操作能力,就离不开Agent运行底座。2026年8月正式开源的DeepSeek Harness(简称DSH),凭借**Agent = Model + Harness**核心理念迅速收获大量开发者关注。大模型是智能体的思考大脑,而Harness就是执行手脚,负责环境感知、工具调度、会话生命周期管理、沙箱隔离、任务循环、子Agent调度。项目依托Cordis微内核,贯彻“一切皆插件”设计思想,模型适配器、工具集、存储、Web前端界面全部以插件形式实现,无需修改
101 0
|
2天前
|
缓存 人工智能 运维
DeepSeek Harness完整更新实操手册:本体三种升级方式、插件独立更新、故障排查全流程
DeepSeek Harness简称dsh,是一套插件化架构的开源Agent运行框架,目前处于开发者预览阶段,项目迭代节奏很快。新版本除新增功能特性之外,还会修复安全缺陷,部分迭代版本会存在不向前兼容的破坏性改动。大量使用者升级时很容易混淆**本体程序**和**插件扩展**两套独立体系,误以为更新本体程序,插件就会自动同步升级,最终出现Web界面报错、插件加载失败、会话异常、功能不可用等各类故障。
103 0
|
2天前
|
人工智能 JavaScript 开发工具
DeepSeek Harness完整实操入门:Cordis插件内核、本地部署、SDK开发、模式选型、SDK示例、优劣分析、与排坑全解
DeepSeek Harness提供一套开源Agent运行时底座,打通大模型推理能力和本地文件、系统命令执行环境。依托Cordis插件内核,实现极高的可扩展能力,强化本地权限管控与完整执行链路可追溯。它不是拿来直接聊天的成品软件,而是供开发者搭建、调试、评测智能体的底层底座。
114 0

热门文章

最新文章