原生Claude3免魔法本地轻松上手,这3步你必须要知道

简介: 本文详细介绍了如何在阿里云ECS上部署LobeChat,并通过Cloudflare实现Claude3 API的代理访问。首先准备ECS、Claude3 API密钥及域名,接着通过Docker部署LobeChat,并配置相关环境变量。然后,在Cloudflare上创建站点并部署API代理,最后通过SSH端口映射在本地访问LobeChat。文中提供了具体步骤与示例代码,帮助读者顺利完成部署,体验高效便捷的AI聊天功能。

是不是比gpt4强,我们看看Claude3自己的回答就知道了,我通过claude3询问后的答案还是中肯许多,术业有专攻,适合的场景下采用合适的模型就能满足我们的需求。

有宝子问:你用的哪个claude3的大模型?

回答:原生claude3,不是市面上的套壳家伙!

宝子问:套壳用起来如此丝滑,原生的也不那么香!

回答:套壳chatbot算下来可是用原生API访问费用的5倍不止,何况数据还是在第三方平台上,有种“大冤种的赶脚”。

宝子问:Lobechat有什么好?

回答:Lobechat颜值就已经藐视云云众生,何况大脑还是可以任意切换目前主流大模型。

宝子问:国内要使用也需要魔法吧?

回答:魔法师的年代已经过去了!

百闻不如一见,香不香,谁用谁知道!


0.准备工作

阿里云ECS年度性价比产品,用来部署lobechat,性价比拉满,关键是省电费。

2核2G,3M固定带宽,40G ESSD Entry盘,99一年,新购和续费同价。

  • claude3API.KEY一个

关于API.KEY的注册方式已经有很多方式可以获取,就默认宝子们都是有KEY的人。

  • 域名一个

阿里云的域名注册,新人可以通过1元注册域名,建议采用xx.cn结尾域名,不会被过滤掉。

1.Docker安装Lobechat

通过docker-compose进行Lobechat的部署。

version: '3.8'

services:  

 lobe-chat:    

   image: lobehub/lobe-chat    

   container_name: lobe-chat    

   restart: always    

   ports:      

     - '3210:3210'    

   environment:      

     OPENAI_API_KEY: sk-xxxx      

     OPENAI_PROXY_URL: https://api-proxy.com/v1/messages      

     ACCESS_CODE: code with your opinion

Lobechat官方文档

2.Cloudflare部署API代理

2.1.创建站点

通过左侧导航栏的网页点击进入后,点击添加站点进入下一页面。


2.2.窗口填入域名


2.3.选择DNS免费服务

通过搜索,提供DNS解析地址,并将域名网站的DNS地址修改为cloudflare提供地址,激活成功后,邮箱会收到激活确认邮件,并且网页主页面上域名地址会出现“有效”字样。

add_domain03(1).png


选择免费计划后,收到激活邮件,成功激活。

2.4.创建应用程序

通过导航栏的“Workers and Pages”,点击进入后点击“创建worker”,默认代码不用做修改,直接点击创建。

默认原有代码部署。

2.5.触发器修改代码

通过“Workers and Pages”进入会看到刚刚创建好的代理地址,点击进入后,看到功能栏中的“设置”,点击进入后看到“触发器”,再次点击右上角的“编辑代码”,将原有代码替换。


//通过该代码实现API请求

async function handleRequest(request) {  

 const url = new URL(request.url)  

 url.host = "api.anthropic.com"  

 return fetch(url, { headers: request.headers, method: request.method, body: request.body })

}

addEventListener("fetch", (event) => {  

 event.respondWith(handleRequest(event.request))

})



2.6.调用claude3的API

在“触发器”里,自定义域名,这个域名是作为claude3代理访问地址,设置完成以后,通过云服务器向claude3发起API调用测试。

curl https://your_domain.cn/v1/messages \

--header "x-api-key: $ANTHROPIC_API_KEY" \

--header "anthropic-version: 2023-06-01" \

--header "content-type: application/json" \

--data \

'{     "model": "claude-3-opus-20240229",    

      "max_tokens": 1024,    

      "messages": [        

           {"role": "user", "content": who is better,you or gpt4"}    

      ]

}'


宝子们走道这里,看到API调用后的回复,已经宣告完成90%的Lobechat本地化部署。最后一步,就是让我们在美妙的Lobechat下尽情体验AI.chatbot,进入到最后一步吧!!!

cloudflare最值得信赖的全球连通云,关键还是免费

3.Chrome启动本地Lobechat

3.1.映射端口

通过端口映射,实现本地访问云端的Lobechat。

ssh -CNg -L 3210:127.0.0.1:3210 -o StrictHostKeyChecking=no -p 22 root@云主机IP

3.2.访问Lobechat程序端口

本地通过chrome访问3210端口,出现Lobechat对话窗口,我们向claude3提出问题:

  • 关于gpt4和claude3谁更好的话题

  • 经典贪吃蛇的pycoding


4.总结

在云服务器部署Lobechat的docker服务,通过访问代理的实现对claude3大模型的API调用,实现了chatbot的功能。后面将会基于此推出更多LLMs的有趣有益的应用方案。

相关文章
|
Ubuntu Linux
在Linux中如何解压 .xz 和 tar.xz 文件?
【4月更文挑战第17天】
18205 6
在Linux中如何解压 .xz 和 tar.xz 文件?
|
负载均衡 Ubuntu 应用服务中间件
|
人工智能 自然语言处理 安全
详解:Claude 3.7 Sonnet 国内使用指南_claude使用教程
Claude 3.7在对话理解和生成能力上都进行了显著的提升
9345 14
|
人工智能 安全 数据安全/隐私保护
克劳德/claude国内能用吗?回答是: 能用! 教你两种使用方法!
Claude AI 是一款强大的对话式 AI 工具 🤖,但由于网络限制等原因 🚧,国内用户访问 Claude 的官方网站或使用集成 Claude 的第三方应用可能会遇到困难
|
网络协议 网络架构
IPv6基础知识
本文档详细介绍了IPv6协议的发展背景及其带来的主要变化,涵盖了IPv6数据报的基本首部和扩展首部结构,以及IPv6地址的表示方法和分类。由于IPv4地址资源有限且设计存在缺陷,IPv6应运而生,解决了这些问题并引入了许多新特性。文档还探讨了IPv6地址的不同类型,如单播、多播和任播地址,并讨论了IPv4向IPv6过渡的策略,包括双协议栈和隧道技术。
1142 8

热门文章

最新文章