原生Claude3免魔法本地轻松上手,这3步你必须要知道

简介: 本文详细介绍了如何在阿里云ECS上部署LobeChat,并通过Cloudflare实现Claude3 API的代理访问。首先准备ECS、Claude3 API密钥及域名,接着通过Docker部署LobeChat,并配置相关环境变量。然后,在Cloudflare上创建站点并部署API代理,最后通过SSH端口映射在本地访问LobeChat。文中提供了具体步骤与示例代码,帮助读者顺利完成部署,体验高效便捷的AI聊天功能。

是不是比gpt4强,我们看看Claude3自己的回答就知道了,我通过claude3询问后的答案还是中肯许多,术业有专攻,适合的场景下采用合适的模型就能满足我们的需求。

有宝子问:你用的哪个claude3的大模型?

回答:原生claude3,不是市面上的套壳家伙!

宝子问:套壳用起来如此丝滑,原生的也不那么香!

回答:套壳chatbot算下来可是用原生API访问费用的5倍不止,何况数据还是在第三方平台上,有种“大冤种的赶脚”。

宝子问:Lobechat有什么好?

回答:Lobechat颜值就已经藐视云云众生,何况大脑还是可以任意切换目前主流大模型。

宝子问:国内要使用也需要魔法吧?

回答:魔法师的年代已经过去了!

百闻不如一见,香不香,谁用谁知道!


0.准备工作

阿里云ECS年度性价比产品,用来部署lobechat,性价比拉满,关键是省电费。

2核2G,3M固定带宽,40G ESSD Entry盘,99一年,新购和续费同价。

  • claude3API.KEY一个

关于API.KEY的注册方式已经有很多方式可以获取,就默认宝子们都是有KEY的人。

  • 域名一个

阿里云的域名注册,新人可以通过1元注册域名,建议采用xx.cn结尾域名,不会被过滤掉。

1.Docker安装Lobechat

通过docker-compose进行Lobechat的部署。

version: '3.8'

services:  

 lobe-chat:    

   image: lobehub/lobe-chat    

   container_name: lobe-chat    

   restart: always    

   ports:      

     - '3210:3210'    

   environment:      

     OPENAI_API_KEY: sk-xxxx      

     OPENAI_PROXY_URL: https://api-proxy.com/v1/messages      

     ACCESS_CODE: code with your opinion

Lobechat官方文档

2.Cloudflare部署API代理

2.1.创建站点

通过左侧导航栏的网页点击进入后,点击添加站点进入下一页面。


2.2.窗口填入域名


2.3.选择DNS免费服务

通过搜索,提供DNS解析地址,并将域名网站的DNS地址修改为cloudflare提供地址,激活成功后,邮箱会收到激活确认邮件,并且网页主页面上域名地址会出现“有效”字样。

add_domain03(1).png


选择免费计划后,收到激活邮件,成功激活。

2.4.创建应用程序

通过导航栏的“Workers and Pages”,点击进入后点击“创建worker”,默认代码不用做修改,直接点击创建。

默认原有代码部署。

2.5.触发器修改代码

通过“Workers and Pages”进入会看到刚刚创建好的代理地址,点击进入后,看到功能栏中的“设置”,点击进入后看到“触发器”,再次点击右上角的“编辑代码”,将原有代码替换。


//通过该代码实现API请求

async function handleRequest(request) {  

 const url = new URL(request.url)  

 url.host = "api.anthropic.com"  

 return fetch(url, { headers: request.headers, method: request.method, body: request.body })

}

addEventListener("fetch", (event) => {  

 event.respondWith(handleRequest(event.request))

})



2.6.调用claude3的API

在“触发器”里,自定义域名,这个域名是作为claude3代理访问地址,设置完成以后,通过云服务器向claude3发起API调用测试。

curl https://your_domain.cn/v1/messages \

--header "x-api-key: $ANTHROPIC_API_KEY" \

--header "anthropic-version: 2023-06-01" \

--header "content-type: application/json" \

--data \

'{     "model": "claude-3-opus-20240229",    

      "max_tokens": 1024,    

      "messages": [        

           {"role": "user", "content": who is better,you or gpt4"}    

      ]

}'


宝子们走道这里,看到API调用后的回复,已经宣告完成90%的Lobechat本地化部署。最后一步,就是让我们在美妙的Lobechat下尽情体验AI.chatbot,进入到最后一步吧!!!

cloudflare最值得信赖的全球连通云,关键还是免费

3.Chrome启动本地Lobechat

3.1.映射端口

通过端口映射,实现本地访问云端的Lobechat。

ssh -CNg -L 3210:127.0.0.1:3210 -o StrictHostKeyChecking=no -p 22 root@云主机IP

3.2.访问Lobechat程序端口

本地通过chrome访问3210端口,出现Lobechat对话窗口,我们向claude3提出问题:

  • 关于gpt4和claude3谁更好的话题

  • 经典贪吃蛇的pycoding


4.总结

在云服务器部署Lobechat的docker服务,通过访问代理的实现对claude3大模型的API调用,实现了chatbot的功能。后面将会基于此推出更多LLMs的有趣有益的应用方案。

相关文章
|
4月前
|
存储 移动开发 Android开发
HarmonyOS应用开发者高级认证(88分答案)
HarmonyOS应用开发者高级认证(88分答案)
2486 0
|
28天前
|
人工智能 安全 前端开发
免费高效!3步实现Llama3模型远程访问与协作
Meta发布了全新的开源大语言模型Llama 3,LM Studio是一款免费的桌面端工具,支持一键安装和运行Llama 3模型,实现本地使用。LM Studio还提供了Local Server功能,便于集成AI功能。通过贝锐花生壳,可轻松实现LM Studio接口的远程访问,无需公网IP或端口映射。
44 1
|
1月前
|
人工智能 机器人 数据库
字节推出「Coze扣子」AI Bot 开发平台,无需编程,让 Chatbot 搭建更快捷、低门槛!
字节推出「Coze扣子」AI Bot 开发平台,无需编程,让 Chatbot 搭建更快捷、低门槛!
83 0
|
4月前
|
机器学习/深度学习 安全 数据挖掘
《隐私计算简易速速上手小册》第1章:隐私计算概述(2024 最新版)(下)
《隐私计算简易速速上手小册》第1章:隐私计算概述(2024 最新版)
76 0
|
4月前
|
安全 数据挖掘 数据处理
《隐私计算简易速速上手小册》第1章:隐私计算概述(2024 最新版)(上)
《隐私计算简易速速上手小册》第1章:隐私计算概述(2024 最新版)(上)
61 0
|
4月前
|
自然语言处理 IDE 网络安全
通义灵码近2个月功能更新速览,支持远程开发等多项新功能
支持阿里云账号 AK/SK 登录方式、网络代理配置、代码优化、历史会话等多项新功能
3028 2
|
4月前
|
前端开发 JavaScript IDE
蚂蚁CodeFuse新版发布,前端能力优化,支持安卓开发
蚂蚁百灵研发助手 CodeFuse 插件发布新版,本版本新增支持 Android Studio,并针对 JavaScript、TypeScript 等前端语言优化了模型效果,同时还将输出Token增加到最多 1024 个。目前 CodeFuse 处于邀请测试阶段,欢迎各位开发者前往官网申请资格参与测试。在之前已安装插件的用户需要下载最新版本,才可享受 CodeFuse 插件最新能力。
213 1
|
存储 人工智能 Prometheus
面向GPT-4编程的时代来了:GitHub Copilot大升级,首次集成聊天功能
面向GPT-4编程的时代来了:GitHub Copilot大升级,首次集成聊天功能
671 0
|
传感器 Rust 算法
HaaS Python 2.1 版本更新上线 在线热更新+智能行为感知算法+更多开发板/API+精彩开发者活动 快来体验
HaaS Python 2.1 版本更新上线 在线热更新+智能行为感知算法+更多开发板/API+精彩开发者活动 快来体验
168 0
|
监控 Serverless 云计算
5 步!用阿里云 Serverless 搭建高质量的图片压缩工具
Serverless 是一种基于云计算的开发方法,它让开发人员可以专注于编写代码来解决业务问题,而不是处理服务器问题。它是独一无二的,因为它支持 Auto Scaling,执行应用程序所需的计算能力是按需分配的。并且使用一种称为事件驱动函数的模型来确定这些需求的范围。这就是 Serverless 架构,也称为功能即服务 (FaaS)。
5 步!用阿里云 Serverless 搭建高质量的图片压缩工具