人工智能|ReACT 推理提示

简介: **ReAct框架概览**ReAct融合推理与行动,提LLM性能:- 引入心理状态表达,强化答案质量。- 多步思维,反馈循环优化决策。应用场景拓展至智能助手,医疗等。LangChain,ChatGPT工具实践ReAct。后续深入学习,实战企业AI助理开发。(225/240 characters)

简介

使用大语言模型最困难的事情是让它们做你希望它们做的事情。在一篇知名的 ReACT 研究论文《SYNERGIZING REASONING AND ACTING IN LANGUAGE MODELS》中,作者提出了以下的观点:

在人类从事一项需要多个步骤的任务时,而步骤和步骤之间,或者说动作和动作之间,往往会有一个推理过程。

我们以开车为例,在开车之前,我们会检查汽车的邮箱或者电池情况,以便汽车后续不会因为没有油而导致无法使用。当然,这个“检查的动作”是我们下意识的心理状态。有时候并不会直接讲出来。而此篇论文的作者提出一个方法:

让 LLM 把心理状态说出来,然后再根据心理状态做相应的动作,来提高 LLM 答案的准确性。

在这句话中,我们可以发现两个关键词:

  1. 推理(Reasoning),如果给出推理过程,大模型给出的答案会更好。
  2. 行动(Acting), 在环境中采取行动,并观察结果,反复思考。(有点像调试代码的过程)

他们所做的基本上就是将思维方式从单纯的标准式的通过思维链的提示提升到现在能够有原因的追踪和行动。

实现原理

image.png

Reason + Action 结合之后:

  1. 通过推理增强大语言模型解决方案的输出能力。
  2. 执行完成之后将观察带回到语言模型中进行反馈,完善推理。
  3. 所以会获得多步骤的思维方式,不仅仅是一次。直到达成目标为止

应用场景

想象一下,如果大模型能够很好的完成ReAct,即推理+行动的过程。那么就代表大语言模型是无所不能的。当然目前的大模型还没有聪明到这个地步。但是仍然有一些非常好用的应用场景。比如现在很多企业的智能助理,医疗系统的智能助理等等,都是基于此设计原理。

实践应用

通过 LangChain 或者 ChatGPT 的官方 assistant 的 tools 都有利用到 ReaACT 的原理。在后续的课程中会有更深入的实战应用。比如打造企业专属人工智能助理。

相关资料

  • ReAct 框架

总结

  1. 理解 ReAct 框架的基本概念。
  2. 理解 ReAct 框架的应用场景。
  3. 在后续的学习过程中,会结合 LangChain 与 assistant 完成 ReAct 相关的实战练习。
相关文章
|
机器学习/深度学习 人工智能 自然语言处理
人工智能领域中训练、评估和推理概念的了解
人工智能领域中训练、评估和推理概念的了解
818 0
|
13天前
|
机器学习/深度学习 人工智能 弹性计算
阿里云AI服务器价格表_GPU服务器租赁费用_AI人工智能高性能计算推理
阿里云AI服务器提供多种配置选项,包括CPU+GPU、CPU+FPGA等组合,支持高性能计算需求。本文汇总了阿里云GPU服务器的价格信息,涵盖NVIDIA A10、V100、T4、P4、P100等多款GPU卡,适用于人工智能、机器学习和深度学习等场景。详细价格表和实例规格见文内图表。
|
6月前
|
机器学习/深度学习 人工智能 算法
人工智能中的知识表示与推理
人工智能中的知识表示与推理
190 1
|
3月前
|
机器学习/深度学习 人工智能 弹性计算
阿里云AI服务器价格表_GPU服务器租赁费用_AI人工智能高性能计算推理
阿里云AI服务器提供多样化的选择,包括CPU+GPU、CPU+FPGA等多种配置,适用于人工智能、机器学习和深度学习等计算密集型任务。其中,GPU服务器整合高性能CPU平台,单实例可实现最高5PFLOPS的混合精度计算能力。根据不同GPU类型(如NVIDIA A10、V100、T4等)和应用场景(如AI训练、推理、科学计算等),价格从数百到数千元不等。详情及更多实例规格可见阿里云官方页面。
241 1
|
5月前
|
机器学习/深度学习 人工智能 分布式计算
人工智能平台PAI产品使用合集之在maxcompute上跑模型,如何在本地进行推理
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
人工智能平台PAI产品使用合集之在maxcompute上跑模型,如何在本地进行推理
|
11月前
|
机器学习/深度学习 存储 人工智能
人工智能学习-传教士-15数码-拟合-逻辑推理
人工智能学习-传教士-15数码-拟合-逻辑推理
48 0
|
存储 机器学习/深度学习 边缘计算
云边协同与人工智能AI的深度融合(云端训练、边端推理)
在面向物联网、大流量等场景下,为了满足更广连接、更低时延、更好控制等需求,云计算在向一种更加全局化的分布式节点组合形态进阶,边缘计算是其向边缘侧分布式拓展的新触角。
7934 0
|
机器学习/深度学习 人工智能 文字识别
LabVIEW开放神经网络交互工具包【ONNX】,大幅降低人工智能开发门槛,实现飞速推理
图形化编程,无需掌握文本编程基础即可完成机器视觉项目;支持Caffe2, PyTorch, MXNet,ML.NET,TensorRT 和 Microsoft CNTK等多种框架模型的调用并实现推理;支持Nvidia GPU、Intel等多种加速;集成了onnxRuntime加速推理引擎,实现CUDA,TensorRT加速
235 0
|
人工智能
【人工智能】模糊推理附录(2)
【人工智能】模糊推理附录(2)
82 0
|
人工智能
【人工智能】模糊推理附录(1)
【人工智能】模糊推理附录(1)
85 0