原生Claude3免魔法本地轻松上手,这3步你必须要知道

简介: 本文详细介绍了如何在阿里云ECS上部署LobeChat,并通过Cloudflare实现Claude3 API的代理访问。首先准备ECS、Claude3 API密钥及域名,接着通过Docker部署LobeChat,并配置相关环境变量。然后,在Cloudflare上创建站点并部署API代理,最后通过SSH端口映射在本地访问LobeChat。文中提供了具体步骤与示例代码,帮助读者顺利完成部署,体验高效便捷的AI聊天功能。

是不是比gpt4强,我们看看Claude3自己的回答就知道了,我通过claude3询问后的答案还是中肯许多,术业有专攻,适合的场景下采用合适的模型就能满足我们的需求。

有宝子问:你用的哪个claude3的大模型?

回答:原生claude3,不是市面上的套壳家伙!

宝子问:套壳用起来如此丝滑,原生的也不那么香!

回答:套壳chatbot算下来可是用原生API访问费用的5倍不止,何况数据还是在第三方平台上,有种“大冤种的赶脚”。

宝子问:Lobechat有什么好?

回答:Lobechat颜值就已经藐视云云众生,何况大脑还是可以任意切换目前主流大模型。

宝子问:国内要使用也需要魔法吧?

回答:魔法师的年代已经过去了!

百闻不如一见,香不香,谁用谁知道!


0.准备工作

阿里云ECS年度性价比产品,用来部署lobechat,性价比拉满,关键是省电费。

2核2G,3M固定带宽,40G ESSD Entry盘,99一年,新购和续费同价。

  • claude3API.KEY一个

关于API.KEY的注册方式已经有很多方式可以获取,就默认宝子们都是有KEY的人。

  • 域名一个

阿里云的域名注册,新人可以通过1元注册域名,建议采用xx.cn结尾域名,不会被过滤掉。

1.Docker安装Lobechat

通过docker-compose进行Lobechat的部署。

version: '3.8'

services:  

 lobe-chat:    

   image: lobehub/lobe-chat    

   container_name: lobe-chat    

   restart: always    

   ports:      

     - '3210:3210'    

   environment:      

     OPENAI_API_KEY: sk-xxxx      

     OPENAI_PROXY_URL: https://api-proxy.com/v1/messages      

     ACCESS_CODE: code with your opinion

Lobechat官方文档

2.Cloudflare部署API代理

2.1.创建站点

通过左侧导航栏的网页点击进入后,点击添加站点进入下一页面。


2.2.窗口填入域名


2.3.选择DNS免费服务

通过搜索,提供DNS解析地址,并将域名网站的DNS地址修改为cloudflare提供地址,激活成功后,邮箱会收到激活确认邮件,并且网页主页面上域名地址会出现“有效”字样。

add_domain03(1).png


选择免费计划后,收到激活邮件,成功激活。

2.4.创建应用程序

通过导航栏的“Workers and Pages”,点击进入后点击“创建worker”,默认代码不用做修改,直接点击创建。

默认原有代码部署。

2.5.触发器修改代码

通过“Workers and Pages”进入会看到刚刚创建好的代理地址,点击进入后,看到功能栏中的“设置”,点击进入后看到“触发器”,再次点击右上角的“编辑代码”,将原有代码替换。


//通过该代码实现API请求

async function handleRequest(request) {  

 const url = new URL(request.url)  

 url.host = "api.anthropic.com"  

 return fetch(url, { headers: request.headers, method: request.method, body: request.body })

}

addEventListener("fetch", (event) => {  

 event.respondWith(handleRequest(event.request))

})



2.6.调用claude3的API

在“触发器”里,自定义域名,这个域名是作为claude3代理访问地址,设置完成以后,通过云服务器向claude3发起API调用测试。

curl https://your_domain.cn/v1/messages \

--header "x-api-key: $ANTHROPIC_API_KEY" \

--header "anthropic-version: 2023-06-01" \

--header "content-type: application/json" \

--data \

'{     "model": "claude-3-opus-20240229",    

      "max_tokens": 1024,    

      "messages": [        

           {"role": "user", "content": who is better,you or gpt4"}    

      ]

}'


宝子们走道这里,看到API调用后的回复,已经宣告完成90%的Lobechat本地化部署。最后一步,就是让我们在美妙的Lobechat下尽情体验AI.chatbot,进入到最后一步吧!!!

cloudflare最值得信赖的全球连通云,关键还是免费

3.Chrome启动本地Lobechat

3.1.映射端口

通过端口映射,实现本地访问云端的Lobechat。

ssh -CNg -L 3210:127.0.0.1:3210 -o StrictHostKeyChecking=no -p 22 root@云主机IP

3.2.访问Lobechat程序端口

本地通过chrome访问3210端口,出现Lobechat对话窗口,我们向claude3提出问题:

  • 关于gpt4和claude3谁更好的话题

  • 经典贪吃蛇的pycoding


4.总结

在云服务器部署Lobechat的docker服务,通过访问代理的实现对claude3大模型的API调用,实现了chatbot的功能。后面将会基于此推出更多LLMs的有趣有益的应用方案。

相关文章
|
23天前
|
Serverless 数据安全/隐私保护 前端开发
大模型代码能力体验报告之贪吃蛇小游戏《一》:Claude.ai篇 - 生成、预览和快速部署的serverless一条龙
本文介绍了通过Claude.ai生成并优化Web版贪吃蛇游戏的过程,展示了其强大的代码生成功能及用户友好的界面设计。从初始版本的快速生成到根据用户反馈调整游戏速度,再到提供多种实用工具如文件管理、版本控制和一键部署,Claude.ai不仅是一个代码助手,更像是一个全面的serverless开发平台。文中还呼吁国内厂商关注此类技术的发展。
|
机器学习/深度学习 存储 人工智能
Gradio入门到进阶全网最详细教程[一]:快速搭建AI算法可视化部署演示(侧重项目搭建和案例分享)
Gradio入门到进阶全网最详细教程[一]:快速搭建AI算法可视化部署演示(侧重项目搭建和案例分享)
|
2月前
|
自然语言处理 IDE 测试技术
通义灵码怎么样?分为哪些版本,看看基础能力多少分?
通义灵码是一款基于通义大模型的智能编码辅助工具,提供实时代码续写、自然语言生成代码、单元测试生成、代码优化、注释生成、代码解释等功能。
|
3月前
|
人工智能 安全 前端开发
免费高效!3步实现Llama3模型远程访问与协作
Meta发布了全新的开源大语言模型Llama 3,LM Studio是一款免费的桌面端工具,支持一键安装和运行Llama 3模型,实现本地使用。LM Studio还提供了Local Server功能,便于集成AI功能。通过贝锐花生壳,可轻松实现LM Studio接口的远程访问,无需公网IP或端口映射。
94 1
|
6月前
|
安全 数据挖掘 数据处理
《隐私计算简易速速上手小册》第1章:隐私计算概述(2024 最新版)(上)
《隐私计算简易速速上手小册》第1章:隐私计算概述(2024 最新版)(上)
86 0
|
6月前
|
机器学习/深度学习 安全 数据挖掘
《隐私计算简易速速上手小册》第1章:隐私计算概述(2024 最新版)(下)
《隐私计算简易速速上手小册》第1章:隐私计算概述(2024 最新版)
103 0
|
6月前
|
自然语言处理 IDE 网络安全
通义灵码近2个月功能更新速览,支持远程开发等多项新功能
支持阿里云账号 AK/SK 登录方式、网络代理配置、代码优化、历史会话等多项新功能
3070 2
|
6月前
|
监控 Linux iOS开发
如何使用克魔开发助手优化iOS应用性能
如何使用克魔开发助手优化iOS应用性能
68 1
|
6月前
|
前端开发 JavaScript IDE
蚂蚁CodeFuse新版发布,前端能力优化,支持安卓开发
蚂蚁百灵研发助手 CodeFuse 插件发布新版,本版本新增支持 Android Studio,并针对 JavaScript、TypeScript 等前端语言优化了模型效果,同时还将输出Token增加到最多 1024 个。目前 CodeFuse 处于邀请测试阶段,欢迎各位开发者前往官网申请资格参与测试。在之前已安装插件的用户需要下载最新版本,才可享受 CodeFuse 插件最新能力。
226 1
|
存储 人工智能 Prometheus
面向GPT-4编程的时代来了:GitHub Copilot大升级,首次集成聊天功能
面向GPT-4编程的时代来了:GitHub Copilot大升级,首次集成聊天功能
685 0