Chapter 1:Ai agent的认识
这期学习课程选择全程手搓笔记,一直都想自己在平台上手写学习笔记。一方面是,想到自己上学完成作业时没有大模型的辅助,遇到报错自己都是一个一个去搜索报错、debug、修改,这种学习习惯现在依然保留着;另一方面是,想再过几年回过头看看自己当下的心境,遇到问题都是怎么解决的,自己的思考维度有没有提升,有没有更成熟。
开头附上本次课程教学地址:https://github.com/bojieli/ai-agent-book/tree/main
第一章仍然是学习搭建环境,搭建本地运行大模型的环境、认识大模型的环境是怎么被搭建起来的。起初,这个课程我最开始没看懂,所以我选择ai伴读的方式帮我去消化,这种方式的好处就是大模型有前瞻性,比如我在运行口令时遇到了python版本不够新,没办法跑起课程里的口令,但大模型通过阅读全篇文章告诉我,python版本问题不会影响我的后续试验,还给我提供了其他思路让我可以没有呢么纠结这个事情顺利的吧路程跑通。所以在开始章节学习前,我要做的准备工作是1、吧git克隆到本地 2、装依赖,跑python.py,检查你的python版本(作者要求 Python 3.11 或更高),装Homebrew和uv 3、看看课程的口令是适配windows系统的还是mac的 4、按照课程跑步骤,最终你的产物就是【demo.json】
简单说下我对课程的理解,本章主要是让学习者通过用离线和联网的形态下去调用kimi-k3,让我们通过观察大模型的思考路径,去学习ReAct模式。例如:
这是离线环境去跟kimi问Moonshot AI的Context Caching是什么技术?离线环境的推理思路是在做React循环,我们跟大模型普遍的聊天节奏是,我们问大模型答,一把带过;react模式就是「想→搜→看→还不够→再想→再搜→再看→够了→答」,--max-steps 5 是兜底上限;下图是离线调用的运行过程:





顺利完成上一步之后就是联网调用api,首先要做的就是去moonshoot注册,获得api-key(记得提前复制保存下来),这一步我踩了不少坑。我按照教程,创建了.env文件配制好我要调用模型api的环境

配制好再提问问题,我的模型就陷入了404死循环,怎么输入都没用。经过求助我又学会了一项技能就是看官方文档!!!!!最开始大模型跟我说的是kimi-k3没有正式上线开放给大众使用只能用moonshot‑v1‑8k / moonshot‑v1‑32k,让我把所有配制文件都替换成后者这个模型名称我觉得工作量太大就去求助好心人。随后才知道看官方文档,文档上记录kimi-k3已上线跟之前我搜索到的说法很矛盾,后面才定位到问题是Formula 内置 web‑search 联网工具正在更新维护,近期不建议使用!!所以没办法内置联网调用。


通过踩这次的坑我又学会了一个新的概念,大模型的调用是要依靠组件的,这里面有三种代表性的概念:
- kimi‑k3 模型:大模型,负责思考、生成调用工具的指令,充值解锁后普通对话完全正常可用。
- Formula 平台:平台托管的工具执行服务,web‑search、excel 解析、代码运行器都跑在这里。
web‑search 工具:Formula 其中一个工具,负责联网搜网页,当前处于维护状态。
大模型只是负责思考,Formula其中之一的服务负责上网搜索。除此之外Formula还有以下其他功能(截图来自kimi官网)https://platform.kimi.com/docs/guide/use-official-tools

总结一下:这期课程我学到了本地离线/联网状态下调用大模型LLM,还有tools的使用,以及react模式的底层逻辑,context的流转(离线 demo.json 文件)
注释下Context 不是模型内置记忆,是每次请求随报文传给 LLM 的全部历史信息;ReAct 循环每做完一次工具调用,必须把 Observation 追加到 Context,模型才能拿到工具执行的结果。