用AI Agent做一个法律咨询助手,罗老看了都直呼内行 feat.通义千问大模型&阿里云百炼平台
AI 大模型出来已经有很长一段时间了,功能非常的强大,各行各业都在研究如何接入 AI 。程序员在业务接入 AI 的过程当中必须要学会的一项技能,就是动手实现 agent 。本课程由讲师御风大世界分享。
这个视频基于通义千问大模型和阿里云百炼平台实现 agent 。
举个例子,有一个超级智能的小秘书,它不仅能够听懂说话,还能根据的需求安排日程、查询信息,甚至帮你购物,而这个小秘书,其实就是 AI agent 。它就像是一个超级智能的小助手,能够根据需求环境的变化做出合适的决策,并执行相应的动作。
接下来做一个 AI agent 。再做之前需要准备模型训练的软硬件以及特定的知识库来投喂它。
要定向培养一个小助手,将来才可以把专业的事情交给专业的 AI agent 来做。如果从头开始前期需要投入的成本太高,好在有阿里云百炼的大模型服务平台,不需要写一行代码,也不需要去训练模型,更不需要去拆分知识库,只需要简单配置,就可以快速产出 agent 。
一起来做民法典智能问答 agent 。
首先需要有阿里云的账号,登录后来到这个地址,点击应用广场,有提示说还没有开通模型,点击开通模型服务。
百炼平台目前是支持模型的推理、部署、和训练相关的各种服务,勾选同意开通,再次回到应用广场,目前已经有一些模板,未来这里的模板也会越来越多,就像当年的提示词模板一样。这次想做的民法典问答 agent ,只需要基于“法律咨询助理”的模板来进行构建就可以。
接下来填写一下应用的相关信息,名字可以自定义,模型这一块可以下拉选择。
这次用到的是通义千问的 max 版,因为是基于模板构建的,所以自动生成 prompt 。如果想要自定义构建,就需要自己写 prompt ,不会写 prompt 其实没关系,只需要让AI 扮演某个角色,点击 prompt 优化,百炼就会自动给你一些prompt建议。
建议接下来配置知识库,选择知识库,这里默认是没有任何知识库。
需要去点击上传新的知识。新建类目:法典。导入数据,将提前准备好的民法典文档拖入即可。
这里是支持多文档、多格式上传的,最后点击确认,这一步只是上传了文档,还没有形成完整的知识库,接下来需要去点击数据应用、知识索引。
点击创建知识库,输入名称和描述,其他的参数保持默认,点击下一步,这里提示需要去选择数据,有两种方式,可以基于某个类目下的所有文件数据,也可以是单个文件,这里就让它基于类目,其他的配置维持默认,点击导入完成,此时知识库就创建完成。
从上传文件到拆分词条,再到向量化,只需要点几下鼠标,百炼平台就可以轻松搞定。再回到刚才的应用配置页面,此时下拉选框,就可以看到刚才配置的知识库,其他的配置维持默认即可,接下来点击保存、发布,整个的 agent 就搭建完成。
可以在右边做一个简单的测试,可以看到 AI 给出的回答还是非常中肯的,不仅应有的法条还给出了一些维权的建议,已经 AI agent 搭建完成,接下来就是到了应用层面。
之前出过一个视频也是如何使用 maxkb 搭建知识问答助手,不过应用方式只有一种,以 iframe 的形式嵌入到网页里面,这种形式有一定的局限性,百炼就没有使用这种方式,而是采用了 sdk 的形式。可以在现有的代码当中通过 API 调用实现 agent 集成。
接下来一起来看,点击我的应用,可以看到这个地方就是我们刚才创建的 agent 的应用,。
有一个调用按钮,点击后右侧弹出示例代码,目前是支持 python 、java 、curl 。
也可以点击 sdk 文档做进一步的了解,最后代码调用的一个形式大概是这样。
首先需要配置阿里云的鉴权信息,百炼的鉴权信息,做前置身份的确认。
第二步就是基于应用去发起提问,接下来运行一下代码,可以看到是没有任何问题的,可以正常执行,拿到结果。
到此学会如何去制作 agent ,可以看到百炼平台的用户体验是相当不错的。
AI 大模型界的重磅消息,通义千问 GPT-4 级主力模型 Qwen-Long , API 输入价格从0.02元每千 tokens 降到了0.0005元每千 tokens ,直降了97%,这也就意味着一块钱现在可以购买200万 tokens ,相当于5本“新华字典”的文字量,
这款模型的最高支持1,000万 tokens 长文本输入,降价后约为 GPT-4 价格的1/400,简直是击穿了全球底价。
通过这张价格对比图,看到主流大模型当中通义千问的定价策略是最亲民的。
以上就是全部内容,感谢大家的收看,下期节目再见。