是不是比gpt4强,我们看看Claude3自己的回答就知道了,我通过claude3询问后的答案还是中肯许多,术业有专攻,适合的场景下采用合适的模型就能满足我们的需求。
有宝子问:你用的哪个claude3的大模型?
回答:原生claude3,不是市面上的套壳家伙!
宝子问:套壳用起来如此丝滑,原生的也不那么香!
回答:套壳chatbot算下来可是用原生API访问费用的5倍不止,何况数据还是在第三方平台上,有种“大冤种的赶脚”。
宝子问:Lobechat有什么好?
回答:Lobechat颜值就已经藐视云云众生,何况大脑还是可以任意切换目前主流大模型。
宝子问:国内要使用也需要魔法吧?
回答:魔法师的年代已经过去了!
百闻不如一见,香不香,谁用谁知道!
0.准备工作
阿里云ECS年度性价比产品,用来部署lobechat,性价比拉满,关键是省电费。
2核2G,3M固定带宽,40G ESSD Entry盘,99一年,新购和续费同价。
- claude3API.KEY一个
关于API.KEY的注册方式已经有很多方式可以获取,就默认宝子们都是有KEY的人。
- 域名一个
阿里云的域名注册,新人可以通过1元注册域名,建议采用xx.cn结尾域名,不会被过滤掉。
1.Docker安装Lobechat
通过docker-compose进行Lobechat的部署。
version:
'3.8'
services:
lobe-chat:
image: lobehub/lobe-chat
container_name: lobe-chat
restart: always
ports:
-
'3210:3210'
environment:
OPENAI_API_KEY: sk-xxxx
OPENAI_PROXY_URL: https://api-proxy.com/v1/messages
ACCESS_CODE: code with your opinion
2.Cloudflare部署API代理
2.1.创建站点
通过左侧导航栏的网页点击进入后,点击添加站点进入下一页面。
2.2.窗口填入域名
2.3.选择DNS免费服务
通过搜索,提供DNS解析地址,并将域名网站的DNS地址修改为cloudflare提供地址,激活成功后,邮箱会收到激活确认邮件,并且网页主页面上域名地址会出现“有效”字样。
选择免费计划后,收到激活邮件,成功激活。
2.4.创建应用程序
通过导航栏的“Workers and Pages”,点击进入后点击“创建worker”,默认代码不用做修改,直接点击创建。
默认原有代码部署。
2.5.触发器修改代码
通过“Workers and Pages”进入会看到刚刚创建好的代理地址,点击进入后,看到功能栏中的“设置”,点击进入后看到“触发器”,再次点击右上角的“编辑代码”,将原有代码替换。
//通过该代码实现API请求
async
function
handleRequest
(
request
)
{
const url
=
new URL
(
request.url
)
url.host
=
"api.anthropic.com"
return
fetch
(
url,
{
headers: request.headers, method: request.method, body: request.body
}
)
}
addEventListener
(
"fetch"
,
(
event
)
=
>
{
event.respondWith
(
handleRequest
(
event.request
))
}
)
2.6.调用claude3的API
在“触发器”里,自定义域名,这个域名是作为claude3代理访问地址,设置完成以后,通过云服务器向claude3发起API调用测试。
curl
https://your_domain.cn/v1/messages
\
--header
"x-api-key:
$ANTHROPIC_API_KEY
"
\
--header
"anthropic-version: 2023-06-01"
\
--header
"content-type: application/json"
\
--data
\
'{ "model": "claude-3-opus-20240229",
"max_tokens": 1024,
"messages": [
{"role": "user", "content": who is better,you or gpt4"}
]
}'
宝子们走道这里,看到API调用后的回复,已经宣告完成90%的Lobechat本地化部署。最后一步,就是让我们在美妙的Lobechat下尽情体验AI.chatbot,进入到最后一步吧!!!
3.Chrome启动本地Lobechat
3.1.映射端口
通过端口映射,实现本地访问云端的Lobechat。
ssh
-CNg
-L
3210
:127.0.0.1:3210
-o
StrictHostKeyChecking
=
no
-p
22
root@云主机IP
3.2.访问Lobechat程序端口
本地通过chrome访问3210端口,出现Lobechat对话窗口,我们向claude3提出问题:
- 关于gpt4和claude3谁更好的话题
- 经典贪吃蛇的pycoding
4.总结
在云服务器部署Lobechat的docker服务,通过访问代理的实现对claude3大模型的API调用,实现了chatbot的功能。后面将会基于此推出更多LLMs的有趣有益的应用方案。