用AI Agent做一个法律咨询助手,罗老看了都直呼内行 feat.通义千问大模型&阿里云百炼平台

简介: 本视频介绍如何使用通义千问大模型和阿里云百炼平台创建一个法律咨询助手AI Agent。通过简单配置,无需编写代码或训练模型,即可快速实现智能问答功能。演示包括创建应用、配置知识库、上传民法典文档、构建知识索引等步骤。最终,用户可以通过API调用集成此AI Agent到现有系统中,提供专业的法律咨询服务。整个过程简便高效,适合快速搭建专业领域的小助手。

用AI Agent做一个法律咨询助手,罗老看了都直呼内行 feat.通义千问大模型&阿里云百炼平台

 

AI 大模型出来已经有很长一段时间了,功能非常的强大,各行各业都在研究如何接入 AI 。程序员在业务接入 AI 的过程当中必须要学会的一项技能,就是动手实现 agent 。本课程由讲师御风大世界分享。

image.png

这个视频基于通义千问大模型和阿里云百炼平台实现 agent

image.png

举个例子,有一个超级智能的小秘书,不仅能够听懂话,还能根据的需求安排日程查询信息,甚至帮你购物,而这个小秘书其实就是 AI agent 。它就像是一个超级智能的小助手,能够根据需求环境的变化做出合适的决策,并执行相应的动作。

 

接下来做一个 AI agent 。之前需要准备模型训练的软硬件以及特定的知识库来投喂它。

  image.png

要定向培养一个小助手,将来才可以把专业的事情交给专业的 AI agent 来做。如果从开始前期需要投入的成本太高,好在有阿里云百炼的大模型服务平台,不需要写行代码,也不需要去训练模型,更不需要去拆分知识库,只需要简单配置,就可以快速产出 agent

  image.png

一起来做民法典智能问答 agent 。

image.png

首先需要有阿里云的账号,登录后来到这个地址,点击应用广场有提示说还没有开通模型,点击开通模型服务

image.png

平台目前是支持模型的推理部署和训练相关的各种服务,勾选同意开通再次回到应用广场,目前已经有一些模板,未来这里的模板也会越来越多,就像当年的提示词模板一样这次想做的民法典问答 agent ,只需要基于法律咨询助理的模板来进行构建就可以

  

接下来填写一下应用的相关信息,名字可以自定义,模型这一块可以下选择

image.png

这次用到的是通义千问的 max 版,因为是基于模板构建的,所以自动生成 prompt 。如果想要自定义构建就需要自己写 prompt ,不会写 prompt 其实没关系只需要让AI 扮演某个角色,点击 prompt 优化,百炼就会自动给你一些prompt建议。

image.png

建议接下来配置知识库,选择知识库,这里默认是没有任何知识库。

image.png

需要去点击上传新的知识。新建类目:法典。导入数据,将提前准备好的民法典文档拖入即可。

image.png

这里是支持多文档、多格式上传的,最后点击确认,这一步只是上传了文档,还没有形成完整的知识库,接下来需要去点击数据应用、知识索引。

image.png

点击创建知识库,输入名称和描述,其他的参数保持默认,点击下一步,这里提示需要去选择数据,有两种方式,可以基于某个类目下的所有文件数据,也可以是单个文件,这里就让它基于类目,其他的配置维持默认,点击导入完成,此时知识库就创建完成。

image.png

从上传文件到拆分词条,再到向量化,只需要点几下鼠标,百炼平台就可以轻松搞定。再回到刚才的应用配置页面,此时下拉选框,就可以看到刚才配置的知识库,其他的配置维持默认即可,接下来点击保存、发布,整个的 agent 就搭建完成。

image.png

可以在右边做一个简单的测试,可以看到 AI 给出的回答还是非常中肯的,不仅应有的法条还给出了一些维权的建议,已经 AI agent 搭建完成,接下来就是到了应用层面。

之前出过一个视频也是如何使用 maxkb 搭建知识问答助手,不过应用方式只有一种,以 iframe 的形式嵌入到网页里面,这种形式有一定的局限性,百炼就没有使用这种方式,而是采用了 sdk 的形式。可以在现有的代码当中通过 API 调用实现 agent 集成。

image.png

接下来一起来看,点击我的应用,可以看到这个地方就是我们刚才创建的 agent 的应用,。

image.png

有一个调用按钮,点击后右侧弹出示例代码,目前是支持 python 、java 、curl 。

image.png

也可以点击 sdk 文档做进一步的了解,最后代码调用的一个形式大概是这样。

image.png

首先需要配置阿里云的鉴权信息,百炼的鉴权信息,做前置身份的确认。

第二步就是基于应用去发起提问,接下来运行一下代码,可以看到是没有任何问题的,可以正常执行,拿到结果。

到此学会如何去制作 agent ,可以看到百炼平台的用户体验是相当不错的。

image.png

AI 大模型界的重磅消息,通义千问 GPT-4 级主力模型 Qwen-Long , API 输入价格从0.02元每千 tokens 降到了0.0005元每千 tokens ,直降了97%,这也就意味着一块钱现在可以购买200万 tokens ,相当于5本“新华字典”的文字量,

image.png

这款模型的最高支持1,000万 tokens 长文本输入,降价后约为 GPT-4 价格的1/400,简直是击穿了全球底价。

image.png

通过这张价格对比图,看到主流大模型当中通义千问的定价策略是最亲民的。

以上就是全部内容,感谢大家的收看,下期节目再见。

 

 

相关文章
|
1月前
|
人工智能 算法 开发者
开源VLM“华山论剑”丨AI Insight Talk多模态专场直播预告
开源VLM“华山论剑”丨AI Insight Talk多模态专场直播预告
192 10
开源VLM“华山论剑”丨AI Insight Talk多模态专场直播预告
|
1月前
|
机器学习/深度学习 人工智能 算法
GSPO:Qwen让大模型强化学习训练告别崩溃,解决序列级强化学习中的稳定性问题
这是7月份的一篇论文,Qwen团队提出的群组序列策略优化算法及其在大规模语言模型强化学习训练中的技术突破
609 0
GSPO:Qwen让大模型强化学习训练告别崩溃,解决序列级强化学习中的稳定性问题
|
2月前
|
存储 机器学习/深度学习 缓存
阿里云AirCache技术实现多模态大模型高效推理加速,入选国际顶会ICCV2025
阿里云研发的AirCache技术被计算机视觉顶会ICCV2025收录,该技术通过激活跨模态关联、优化KV缓存压缩策略,显著提升视觉语言模型(VLMs)的推理效率与存储性能。实验表明,在保留仅10%视觉缓存的情况下,模型性能下降小于1%,解码延迟最高降低66%,吞吐量提升达192%。AirCache无需修改模型结构,兼容主流VLMs,已在教育、医疗、政务等多个行业落地应用,助力多模态大模型高效赋能产业智能化升级。
244 1
|
2月前
|
消息中间件 人工智能 资源调度
云上AI推理平台全掌握 (5):大模型异步推理服务
针对大模型推理服务中“高计算量、长时延”场景下同步推理的弊端,阿里云人工智能平台 PAI 推出了一套基于独立的队列服务异步推理框架,解决了异步推理的负载均衡、实例异常时任务重分配等问题,确保请求不丢失、实例不过载。
|
2月前
|
人工智能 自然语言处理
AI、大模型如何重塑海外舆情监测行业
与此同时,以人工智能(AI)与大语言模型(LLM)为代表的新一代技术,正在深刻重塑舆情监测行业的核心逻辑。从过去依赖关键词和人工分析的监测体系,到如今多语言理解、深层情绪识别与传播趋势预测等高阶能力的构建,AI不仅极大提升了舆情监测的效率与精准度,也推动其从单一的危机应对工具,迈向企业战略制定的智能引擎。
153 0
|
2月前
|
人工智能 缓存 资源调度
云上AI推理平台全掌握 (4):大模型分发加速
为应对大模型服务突发流量场景,阿里云人工智能平台 PAI 推理服务 PAI-EAS 提供本地目录内存缓存(Memory Cache)的大模型分发加速功能,有效解决大量请求接入情况下的推理延迟。PAI-EAS 大模型分发加速功能,零代码即可轻松完成配置。
|
1月前
|
数据采集 人工智能 自然语言处理
让AI读懂代码需求:模块化大模型微调助力高效代码理解与迁移
本文介绍了一种解决开源项目代码升级中“用户需求关联相应代码”难题的创新方法。面对传统Code RAG和Code Agent在召回率、准确率和稳定性上的不足,以及领域“黑话”和代码风格差异带来的挑战,作者团队提出并实践了一套以大模型微调(SFT)为核心的解决方案。
355 21
|
1月前
|
人机交互 API 开发工具
基于通义多模态大模型的实时音视频交互
Qwen-Omni是通义千问系列的全新多模态大模型,支持文本、图像、音频和视频的输入,并输出文本和音频。Omni-Realtime服务针对实时交互场景优化,提供低延迟的人机交互体验。
326 23
|
2月前
|
机器学习/深度学习 人工智能 编解码
AI-Compass LLM合集-多模态模块:30+前沿大模型技术生态,涵盖GPT-4V、Gemini Vision等国际领先与通义千问VL等国产优秀模型
AI-Compass LLM合集-多模态模块:30+前沿大模型技术生态,涵盖GPT-4V、Gemini Vision等国际领先与通义千问VL等国产优秀模型
AI-Compass LLM合集-多模态模块:30+前沿大模型技术生态,涵盖GPT-4V、Gemini Vision等国际领先与通义千问VL等国产优秀模型

热门文章

最新文章