大模型应用开发-LangChain入门教程

简介: 大模型应用开发-LangChain入门教程

大模型应用开发-LangChain入门教程


简介:本文讲解如何使用LangChain来构造大模型应用。


LangChain简介


LangChain是一个编程框架,主要用于在应用程序中集成大型语言模型(LLM)。LangChain提供了记忆组件,用于解决大语言模型无状态的问题,使得模型能够保存上次交互的内容,从而能够更好地进行连续的对话或任务处理。


此外,LangChain还提供了多种类型的Chain类,用于处理不同的任务。其中,通用Chain类用于控制Chain的调用顺序和是否调用,它们可以用来合并构造其他的Chain。具体Chain类则承担了具体的某项任务,例如LLMChain专门用于针对语言模型LLM的查询,可以格式化prompt以及调用语言模型。


入门案例


openAI版本


  • 获取接口
  • 首先需要进入openAI官网,查看自己的接口。

  • 创建接口


  • 创建成功之后就有密钥了

  • 编写代码

在最新版的LangChain教程中,取消了直接使用key的方式,要把key先配置成环境变量,然后调用,自己的电脑的环境变量才能够运行,提高了安全性。

  • 配置环境变量

import os  
import openai  
  
# 假设 open_api_key 是一个环境变量名,而不是API密钥本身  
open_api_key_env_var = "openAI-key"  # 最好使用有意义的环境变量名  
openai_api_key = os.environ.get(open_api_key_env_var)  
  
# 确保API密钥已设置  
if not openai_api_key:  
    raise ValueError(f"Environment variable {open_api_key_env_var} is not set.")  
  
# 初始化OpenAI客户端  
client = openai.Client(api_key=openai_api_key)  
  
def get_completion(prompt, model="gpt-3.5-turbo"):  
    # 使用传入的prompt构建消息列表  
    messages = [{"role": "user", "content": prompt}]  
  
    try:  
        # 调用API并传入参数  
        response = client.chat.completions.create(  
            model=model,  
            messages=messages,  
        )  
  
        # 从响应中提取聊天完成的内容  
        return response.get("choices", [{}])[0].get("message", {}).get("content", "")  
  
    except Exception as e:  
        # 异常处理  
        print(f"An error occurred: {e}")  
        return None  
  
# 使用函数示例  
prompt_text = "Hello, how are you?"  
result = get_completion(prompt_text)  
print(result)

运行这个代码想要成功,必须要自己的openai账户有钱,才可以,但是正常情况下,大家也充值不了,所以只能够采取代理的方法了。


代理版本


通过下面的链接:https://referer.shadowai.xyz/r/1005029就可以进入代理版本,注册代理接口。

  • 再点击使用文档就可以看见详细的教程了

  • 编写代码
from openai import OpenAI

client = OpenAI(
    base_url='https://api.openai-proxy.org/v1',
    api_key='xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx',
)

chat_completion = client.chat.completions.create(
    messages=[
        {
            "role": "user",
            "content": "Say hi", # 我要问的问题
        }
    ],
    model="gpt-3.5-turbo",
)
# 获取choices列表中的第一个元素(通常只有一个choice)  
choice = chat_completion.choices[0]  
  
# 从choice中获取message对象  
message = choice.message  
  
# 获取message的内容  
content = message.content  
  
# 打印内容  
print(content)
  • 运行结果

可以看出已经运行成功了,这样我们就可以训练一个属于自己的大模型应用了,或者把接口整合到自己的网站中。

相关实践学习
使用CLup和iSCSI共享盘快速体验PolarDB for PostgtreSQL
在Clup云管控平台中快速体验创建与管理在iSCSI共享盘上的PolarDB for PostgtreSQL。
AnalyticDB PostgreSQL 企业智能数据中台:一站式管理数据服务资产
企业在数据仓库之上可构建丰富的数据服务用以支持数据应用及业务场景;ADB PG推出全新企业智能数据平台,用以帮助用户一站式的管理企业数据服务资产,包括创建, 管理,探索, 监控等; 助力企业在现有平台之上快速构建起数据服务资产体系
相关文章
|
11天前
|
存储 人工智能 数据库
【AI大模型应用开发】以LangChain为例:从短期记忆实战,到如何让AI应用保持长期记忆的探索
【AI大模型应用开发】以LangChain为例:从短期记忆实战,到如何让AI应用保持长期记忆的探索
22 0
|
11天前
|
人工智能 API
【AI大模型应用开发】【LangChain系列】实战案例6:利用大模型进行文本总结的方法探索,文本Token超限怎么办?
【AI大模型应用开发】【LangChain系列】实战案例6:利用大模型进行文本总结的方法探索,文本Token超限怎么办?
17 0
|
11天前
|
存储 人工智能 数据库
【AI大模型应用开发】【LangChain系列】10. 实用技巧:如何使用已经存在的向量数据库作为 Retriever?
【AI大模型应用开发】【LangChain系列】10. 实用技巧:如何使用已经存在的向量数据库作为 Retriever?
27 0
|
11天前
|
人工智能
【AI大模型应用开发】【LangChain系列】实战案例5:用LangChain实现灵活的Agents+RAG,该查时查,不该查时就别查
【AI大模型应用开发】【LangChain系列】实战案例5:用LangChain实现灵活的Agents+RAG,该查时查,不该查时就别查
31 0
|
11天前
|
人工智能 流计算
【AI大模型应用开发】【LangChain系列】9. 实用技巧:大模型的流式输出在 OpenAI 和 LangChain 中的使用
【AI大模型应用开发】【LangChain系列】9. 实用技巧:大模型的流式输出在 OpenAI 和 LangChain 中的使用
28 0
|
11天前
|
数据采集 人工智能 Python
【AI大模型应用开发】【LangChain系列】8. 重要组件介绍:如何运用LangChain表达式语言LCEL中的RunnableParallel和RunnablePassthrough?
【AI大模型应用开发】【LangChain系列】8. 重要组件介绍:如何运用LangChain表达式语言LCEL中的RunnableParallel和RunnablePassthrough?
27 0
|
11天前
|
数据采集 存储 人工智能
【AI大模型应用开发】【LangChain系列】实战案例4:再战RAG问答,提取在线网页数据,并返回生成答案的来源
【AI大模型应用开发】【LangChain系列】实战案例4:再战RAG问答,提取在线网页数据,并返回生成答案的来源
42 0
|
11天前
|
Shell Android开发
Android系统 adb shell push/pull 禁止特定文件
Android系统 adb shell push/pull 禁止特定文件
19 1
|
8月前
|
开发工具 Android开发
Mac 安卓(Android) 配置adb路径
Mac 安卓(Android) 配置adb路径
221 0
|
11天前
|
网络协议 Shell Android开发
Android 深入学习ADB调试原理(1)
Android 深入学习ADB调试原理(1)
24 1

热门文章

最新文章