原生Claude3免魔法本地轻松上手,这3步你必须要知道

简介: 本文详细介绍了如何在阿里云ECS上部署LobeChat,并通过Cloudflare实现Claude3 API的代理访问。首先准备ECS、Claude3 API密钥及域名,接着通过Docker部署LobeChat,并配置相关环境变量。然后,在Cloudflare上创建站点并部署API代理,最后通过SSH端口映射在本地访问LobeChat。文中提供了具体步骤与示例代码,帮助读者顺利完成部署,体验高效便捷的AI聊天功能。

是不是比gpt4强,我们看看Claude3自己的回答就知道了,我通过claude3询问后的答案还是中肯许多,术业有专攻,适合的场景下采用合适的模型就能满足我们的需求。

有宝子问:你用的哪个claude3的大模型?

回答:原生claude3,不是市面上的套壳家伙!

宝子问:套壳用起来如此丝滑,原生的也不那么香!

回答:套壳chatbot算下来可是用原生API访问费用的5倍不止,何况数据还是在第三方平台上,有种“大冤种的赶脚”。

宝子问:Lobechat有什么好?

回答:Lobechat颜值就已经藐视云云众生,何况大脑还是可以任意切换目前主流大模型。

宝子问:国内要使用也需要魔法吧?

回答:魔法师的年代已经过去了!

百闻不如一见,香不香,谁用谁知道!


0.准备工作

阿里云ECS年度性价比产品,用来部署lobechat,性价比拉满,关键是省电费。

2核2G,3M固定带宽,40G ESSD Entry盘,99一年,新购和续费同价。

  • claude3API.KEY一个

关于API.KEY的注册方式已经有很多方式可以获取,就默认宝子们都是有KEY的人。

  • 域名一个

阿里云的域名注册,新人可以通过1元注册域名,建议采用xx.cn结尾域名,不会被过滤掉。

1.Docker安装Lobechat

通过docker-compose进行Lobechat的部署。

version: '3.8'

services:  

 lobe-chat:    

   image: lobehub/lobe-chat    

   container_name: lobe-chat    

   restart: always    

   ports:      

     - '3210:3210'    

   environment:      

     OPENAI_API_KEY: sk-xxxx      

     OPENAI_PROXY_URL: https://api-proxy.com/v1/messages      

     ACCESS_CODE: code with your opinion

Lobechat官方文档

2.Cloudflare部署API代理

2.1.创建站点

通过左侧导航栏的网页点击进入后,点击添加站点进入下一页面。


2.2.窗口填入域名


2.3.选择DNS免费服务

通过搜索,提供DNS解析地址,并将域名网站的DNS地址修改为cloudflare提供地址,激活成功后,邮箱会收到激活确认邮件,并且网页主页面上域名地址会出现“有效”字样。

add_domain03(1).png


选择免费计划后,收到激活邮件,成功激活。

2.4.创建应用程序

通过导航栏的“Workers and Pages”,点击进入后点击“创建worker”,默认代码不用做修改,直接点击创建。

默认原有代码部署。

2.5.触发器修改代码

通过“Workers and Pages”进入会看到刚刚创建好的代理地址,点击进入后,看到功能栏中的“设置”,点击进入后看到“触发器”,再次点击右上角的“编辑代码”,将原有代码替换。


//通过该代码实现API请求

async function handleRequest(request) {  

 const url = new URL(request.url)  

 url.host = "api.anthropic.com"  

 return fetch(url, { headers: request.headers, method: request.method, body: request.body })

}

addEventListener("fetch", (event) => {  

 event.respondWith(handleRequest(event.request))

})



2.6.调用claude3的API

在“触发器”里,自定义域名,这个域名是作为claude3代理访问地址,设置完成以后,通过云服务器向claude3发起API调用测试。

curl https://your_domain.cn/v1/messages \

--header "x-api-key: $ANTHROPIC_API_KEY" \

--header "anthropic-version: 2023-06-01" \

--header "content-type: application/json" \

--data \

'{     "model": "claude-3-opus-20240229",    

      "max_tokens": 1024,    

      "messages": [        

           {"role": "user", "content": who is better,you or gpt4"}    

      ]

}'


宝子们走道这里,看到API调用后的回复,已经宣告完成90%的Lobechat本地化部署。最后一步,就是让我们在美妙的Lobechat下尽情体验AI.chatbot,进入到最后一步吧!!!

cloudflare最值得信赖的全球连通云,关键还是免费

3.Chrome启动本地Lobechat

3.1.映射端口

通过端口映射,实现本地访问云端的Lobechat。

ssh -CNg -L 3210:127.0.0.1:3210 -o StrictHostKeyChecking=no -p 22 root@云主机IP

3.2.访问Lobechat程序端口

本地通过chrome访问3210端口,出现Lobechat对话窗口,我们向claude3提出问题:

  • 关于gpt4和claude3谁更好的话题

  • 经典贪吃蛇的pycoding


4.总结

在云服务器部署Lobechat的docker服务,通过访问代理的实现对claude3大模型的API调用,实现了chatbot的功能。后面将会基于此推出更多LLMs的有趣有益的应用方案。

相关文章
|
10天前
|
弹性计算 人工智能 架构师
阿里云携手Altair共拓云上工业仿真新机遇
2024年9月12日,「2024 Altair 技术大会杭州站」成功召开,阿里云弹性计算产品运营与生态负责人何川,与Altair中国技术总监赵阳在会上联合发布了最新的“云上CAE一体机”。
阿里云携手Altair共拓云上工业仿真新机遇
|
6天前
|
机器学习/深度学习 算法 大数据
【BetterBench博士】2024 “华为杯”第二十一届中国研究生数学建模竞赛 选题分析
2024“华为杯”数学建模竞赛,对ABCDEF每个题进行详细的分析,涵盖风电场功率优化、WLAN网络吞吐量、磁性元件损耗建模、地理环境问题、高速公路应急车道启用和X射线脉冲星建模等多领域问题,解析了问题类型、专业和技能的需要。
2505 14
【BetterBench博士】2024 “华为杯”第二十一届中国研究生数学建模竞赛 选题分析
|
6天前
|
机器学习/深度学习 算法 数据可视化
【BetterBench博士】2024年中国研究生数学建模竞赛 C题:数据驱动下磁性元件的磁芯损耗建模 问题分析、数学模型、python 代码
2024年中国研究生数学建模竞赛C题聚焦磁性元件磁芯损耗建模。题目背景介绍了电能变换技术的发展与应用,强调磁性元件在功率变换器中的重要性。磁芯损耗受多种因素影响,现有模型难以精确预测。题目要求通过数据分析建立高精度磁芯损耗模型。具体任务包括励磁波形分类、修正斯坦麦茨方程、分析影响因素、构建预测模型及优化设计条件。涉及数据预处理、特征提取、机器学习及优化算法等技术。适合电气、材料、计算机等多个专业学生参与。
1519 14
【BetterBench博士】2024年中国研究生数学建模竞赛 C题:数据驱动下磁性元件的磁芯损耗建模 问题分析、数学模型、python 代码
|
8天前
|
编解码 JSON 自然语言处理
通义千问重磅开源Qwen2.5,性能超越Llama
击败Meta,阿里Qwen2.5再登全球开源大模型王座
527 13
|
1月前
|
运维 Cloud Native Devops
一线实战:运维人少,我们从 0 到 1 实践 DevOps 和云原生
上海经证科技有限公司为有效推进软件项目管理和开发工作,选择了阿里云云效作为 DevOps 解决方案。通过云效,实现了从 0 开始,到现在近百个微服务、数百条流水线与应用交付的全面覆盖,有效支撑了敏捷开发流程。
19282 30
|
1月前
|
人工智能 自然语言处理 搜索推荐
阿里云Elasticsearch AI搜索实践
本文介绍了阿里云 Elasticsearch 在AI 搜索方面的技术实践与探索。
18836 20
|
1月前
|
Rust Apache 对象存储
Apache Paimon V0.9最新进展
Apache Paimon V0.9 版本即将发布,此版本带来了多项新特性并解决了关键挑战。Paimon自2022年从Flink社区诞生以来迅速成长,已成为Apache顶级项目,并广泛应用于阿里集团内外的多家企业。
17524 13
Apache Paimon V0.9最新进展
|
8天前
|
人工智能 自动驾驶 机器人
吴泳铭:AI最大的想象力不在手机屏幕,而是改变物理世界
过去22个月,AI发展速度超过任何历史时期,但我们依然还处于AGI变革的早期。生成式AI最大的想象力,绝不是在手机屏幕上做一两个新的超级app,而是接管数字世界,改变物理世界。
457 48
吴泳铭:AI最大的想象力不在手机屏幕,而是改变物理世界
|
1天前
|
云安全 存储 运维
叮咚!您有一份六大必做安全操作清单,请查收
云安全态势管理(CSPM)开启免费试用
352 4
叮咚!您有一份六大必做安全操作清单,请查收
|
2天前
|
存储 关系型数据库 分布式数据库
GraphRAG:基于PolarDB+通义千问+LangChain的知识图谱+大模型最佳实践
本文介绍了如何使用PolarDB、通义千问和LangChain搭建GraphRAG系统,结合知识图谱和向量检索提升问答质量。通过实例展示了单独使用向量检索和图检索的局限性,并通过图+向量联合搜索增强了问答准确性。PolarDB支持AGE图引擎和pgvector插件,实现图数据和向量数据的统一存储与检索,提升了RAG系统的性能和效果。