ChatGPT访问难?ChatGLM+花生壳打造可远程访问的平替方案

本文涉及的产品
实时数仓Hologres,5000CU*H 100GB 3个月
智能开放搜索 OpenSearch行业算法版,1GB 20LCU 1个月
实时计算 Flink 版,5000CU*H 3个月
简介: ChatGPT虽强大,但访问受限。清华大学开源的ChatGLM提供了一种解决方案:用户可根据需求部署私有化的对话服务,支持中英文交互。与ChatGPT不同,ChatGLM便于定制与训练,并能获取已训练模型。结合贝锐花生壳等内网穿透工具,可轻松实现ChatGLM-webui远程访问,无需固定公网IP或路由配置,适用于测试及实际项目,有效规避了访问难题。

ChatGPT在使用上存在不少的困难,比如限制了部分IP、有访问限制。那么,有没有什么方法可以解决这些问题呢?

方式之一,就是结合自身需求部署私有化的类ChatGPT服务。在此之中,清华大学ChatGLM是近期关注度比较高的方案,支持中英双语对话。不同于ChatGPT,由于ChatGLM是开源项目,不仅便于二次开发、训练私有模型,也可以从网上寻找到已经过训练的模型。

而且,结合贝锐花生壳内网穿透之类的方案,还能够快速实现ChatGLM的远程访问,可用于测试环境,或是部分项目,完全不会存在ChatGPT那样的访问难题。

ChatGLM详细信息可见github的THUDM/ChatGLM-6B项目,如果希望快速部署WebUI可使用Akegarasu/ChatGLM-webui或是寻找一些已有的一键安装包,搭配贝锐花生壳就能在没有固定公网IP、不设置网关/路由的情况下进行远程访问。

以下是局域网主机安装ChatGLM-webui+贝锐花生壳实现快速远程访问的整体流程:

一、ChatGLM-webui安装过程

1.1 准备运行环境Python 3.10,这部分相信大家都非常熟悉了,就不展开说明了。

1.2 从github上拉取Akegarasu/ChatGLM-webui项目。

1.3 进入ChatGLM-webui目录,直接使用“bash install.sh”或以下命令即可完成安装。

pip install torch==1.13.1+cu117 torchvision==0.14.1+cu117 --extra-index-url https://download.pytorch.org/whl/cu117

pip install --upgrade -r requirements.txt

1.4 如需运行WebUI,使用“python webui.py”就行,首次运行需要下载一些数据和模型。成功运行后,浏览器通过“127.0.0.1:17860”就能访问。

二、使用贝锐花生壳快速实现远程访问

2.1 下载安装贝锐花生壳的客户端,并登录注册好的贝锐帐号,目前支持Windows、Linux、Mac OS等主流平台。

2.2 在内网穿透界面根据提示信息填写,提交后会自动生成外网访问地址。

2.3 远程主机在浏览器中输入贝锐花生壳生成的外网访问网址就能访问到局域网主机上的ChatGLM-webui。

以上就是快速实现远程访问ChatGLM-webui的整体流程,希望能给大家一些参考。

总体来说,开源、能够私有化部署的ChatGLM-webui从侧面解决了ChatGPT访问困难,而贝锐花生壳内网穿透实现了没有固定公网IP,不设置路由情况下的快速远程访问,而且不仅能够满足测试也能用于正式项目。

目录
相关文章
|
6月前
|
测试技术 UED
测试方案有点难?ChatGPT助你轻松编写测试方案!
使用ChatGPT辅助编写测试方案,以高级搜索功能为例,涉及关键词搜索、过滤条件、界面兼容性、错误处理等测试点。首先明确测试需求,如按作者、时间范围和分类搜索,产品形态为App和Web应用。然后,通过提示词逐步细化方案,包括App的移动设备适配、耗电量和内存占用测试。通过不断优化提示词,确保测试方案全面覆盖功能性能、用户体验及专项测试内容。
|
6月前
|
人工智能 机器人 Go
飞书+ChatGPT搭建智能AI助手,无公网ip实现公网访问飞书聊天界面
飞书+ChatGPT搭建智能AI助手,无公网ip实现公网访问飞书聊天界面
657 0
【ChatGLM】本地版ChatGPT ?6G显存即可轻松使用 !ChatGLM-6B 清华开源模型本地部署教程
【ChatGLM】本地版ChatGPT ?6G显存即可轻松使用 !ChatGLM-6B 清华开源模型本地部署教程
529 0
|
2月前
|
安全 网络安全 API
无需公网也可访问的ChatGPT WebUI服务
通过阿里云计算巢实现无需开启公网访问即可使用的ChatGPTWebUI服务。借助WEB安全代理功能保障安全,无公网费用,适合个人与团队内部使用。
|
2月前
|
编译器 Linux C语言
不对齐的内存访问 【ChatGPT】
不对齐的内存访问 【ChatGPT】
54 11
|
2月前
|
缓存 安全 Linux
访问与总线无关的设备 【ChatGPT】
访问与总线无关的设备 【ChatGPT】
|
6月前
|
自然语言处理 机器人
如何在飞书创建企业ChatGPT智能问答助手应用并实现公网远程访问(1)-3
如何在飞书创建企业ChatGPT智能问答助手应用并实现公网远程访问(1)-3
|
6月前
|
自然语言处理 机器人 Go
如何在飞书创建企业ChatGPT智能问答助手应用并实现公网远程访问(1)-1
如何在飞书创建企业ChatGPT智能问答助手应用并实现公网远程访问(1)-1
|
机器学习/深度学习 人工智能 自然语言处理
ChatGPT技术与商业模式及产业发展布局方案
ChatGPT技术与商业模式及产业发展布局方案
166 0
ChatGPT技术与商业模式及产业发展布局方案
|
人工智能 测试技术
软件测试/人工智能|如何使用ChatGPT写出满意的测试方案
软件测试/人工智能|如何使用ChatGPT写出满意的测试方案