背景简介
我们知道GPT模型对于内容的输出，是对下一个字符的预测，通过概率选出下一个文本。
而且我们也知道，训练样本是非常庞大的，对于GPT来说，也是有可能学习过1 + 1 = 2的。
当我们向GPT询问1+1 时，完全可以通过概率来推测出结果是2
但是当我们要求GPT计算：12311111111111111 + 999999988888888111时，显然训练样本中不可能出现这么抽象的内容。
那我们该如何让大模型进行计算呢？？？
安装依赖
pip install --upgrade --quiet langchain-core langchain-experimental langchain-openai
编写代码
提示词内容
"""Write some python code to solve the user's problem. Return only python code in Markdown format, e.g.: ```python .... ```"""
from langchain_core.output_parsers import StrOutputParser from langchain_core.prompts import ( ChatPromptTemplate, ) from langchain_experimental.utilities import PythonREPL from langchain_openai import ChatOpenAI template = """Write some python code to solve the user's problem. Return only python code in Markdown format, e.g.: ```python .... ```""" prompt = ChatPromptTemplate.from_messages([("system", template), ("human", "{input}")]) model = ChatOpenAI( model="gpt-3.5-turbo", ) def _sanitize_output(text: str): _, after = text.split("```python") result = after.split("```")[0] print("---code---") print(text) print("---code---") return result chain = prompt | model | StrOutputParser() | _sanitize_output | PythonREPL().run message = chain.invoke({"input": "whats 2 plus 2"}) print(f"message: {message}")
运行代码
我们可以看到，大模型先生成了一段代码，并进行计算，输出了结果。
➜ python3 test11.py ---code--- \```python result = 2 + 2 print(result) \``` ---code--- Python REPL can execute arbitrary code. Use with caution. message: 4
