本地部署马斯克开源Grok-1大模型,贝锐花生壳3步实现远程访问

简介: 在人工智能领域,除了在线工具如ChatGPT和Midjourney,本地部署的AI工具如Stable Diffusion同样重要,尤其在满足定制需求和确保数据安全方面。以马斯克的xAI开源项目Grok-1为例,这款拥有314B参数的大模型需要高性能硬件支持。借助贝锐花生壳的内网穿透技术,用户可通过简单的三步操作实现对这类AI工具的远程访问:安装并登录花生壳客户端、设置内网穿透映射、生成并使用远程访问地址。花生壳提供的HTTPS映射确保了访问的安全性,使远程使用AI工具变得更加便捷和安全。

在人工智能的领域,除了广受欢迎的在线工具如 ChatGP T、Midjourney等,还有许多开源且支持本地部署的 AI 工具也值得关注,在满足定制化需求和数据安全方面具有独特优势。结合贝锐花生壳的内网穿透,用户可以轻松实现远程访问这些AI工具,无需复杂的网络配置,这对于需要大量算力的模型尤为实用。

比如,马斯克的xAI也开源了Grok-1,这是一个拥有314B参数的大型语言模型,如运行Grok-1可能需要超过300G显存的GPU。

image.png

显然Grok-1需要本地高性能服务器/工作站部署,用户远程通过浏览器Web界面访问,或是App、应用程序通过调用API等形式进行使用。

然而,对于许多希望利用AI工具的用户来说,远程访问这些工具往往面临着公网IP获取困难、端口映射繁琐、路由和网关设置复杂等问题。

以开源、支持本地部署的图像生成模型Stable Diffusion为例,通过Stable Diffusion web UI本地部署后,搭配花生壳内网穿透,简单3步就能实现远程浏览器进行访问、使用。

image.png

一、客户端安装与登录:用户访问贝锐官网并下载花生壳客户端。安装完成后,注册一个贝锐账号,并登录花生壳客户端。

image.png

二、 内网穿透设置:登录客户端后,进入花生壳云端管理平台。点击“内网穿透”选项——选择“添加映射”——选择“网站应用”。

image.png

*对于常见的网站应用,目前花生壳提供HTTP和HTTPS两种类型可用。

贝锐花生壳HTTP映射:可用于搭建HTTP协议的站点映射,属于非加密访问,建议搭配访问控制提升网站安全性;

贝锐花生壳HTTPS映射:用于创建访问安全加密的站点映射,同时花生壳可自动云端部署证书,本地无需额外申请、设置,非常方便。*

三、访问地址生成与使用:根据系统提示,用户需要正确填写相关信息,如 AI 工具的内网地址和端口等。完成设置并保存后,系统会自动生成一个外网访问地址。

image.png

用户只需复制这个地址,在远程主机上打开浏览器并输入该地址,即可访问并使用本地部署的AI工具,如 Stable Diffusion web UI,进行 AI 绘画创作。

image.png

总之,贝锐花生壳以其独特的内网穿透技术和用户友好的操作界面,为 AI 工具的远程访问提供了一种全新的解决方案。无论是企业用户还是个人开发者,都可以利用贝锐花生壳轻松实现 AI 工具的远程使用,推动 AI 技术的创新和应用。

目录
相关文章
|
5月前
|
网络安全 数据中心
百度搜索:蓝易云【Proxmox软件防火墙的配置教程】
现在,你已经完成了Proxmox软件防火墙的配置。请确保你的防火墙规则设置正确,以保护你的Proxmox VE环境免受未经授权的访问和网络攻击。
179 5
|
5月前
|
人工智能 API
【服务器】搭建ChatGPT站点常见问题
【服务器】搭建ChatGPT站点常见问题
299 0
|
监控 安全 网络安全
两层楼的公司如何开始搭建网络的步骤详解?
两层楼的公司如何开始搭建网络的步骤详解?
|
5月前
|
存储 安全 数据安全/隐私保护
Notion平替工具AFFINE知识库如何本地部署与公网远程访问
Notion平替工具AFFINE知识库如何本地部署与公网远程访问
185 1
|
2月前
|
测试技术 Linux Shell
ChatGPT访问难?ChatGLM+花生壳打造可远程访问的平替方案
ChatGPT虽强大,但访问受限。清华大学开源的ChatGLM提供了一种解决方案:用户可根据需求部署私有化的对话服务,支持中英文交互。与ChatGPT不同,ChatGLM便于定制与训练,并能获取已训练模型。结合贝锐花生壳等内网穿透工具,可轻松实现ChatGLM-webui远程访问,无需固定公网IP或路由配置,适用于测试及实际项目,有效规避了访问难题。
50 3
|
5月前
|
存储 安全 数据安全/隐私保护
如何本地安装AFFiNE并将服务发布至公网实现团队远程访问协作
如何本地安装AFFiNE并将服务发布至公网实现团队远程访问协作
|
5月前
|
Java 应用服务中间件 网络安全
如何配置一个公司服务器的环境
如何配置一个公司服务器的环境
34 0
|
弹性计算 Oracle 关系型数据库
NO.8 学会如何部署Oracle数据库、了解FTP机制、通过Squid代理上网、SSH密钥登录,最后学会故障分析,着重推荐“应用数据迁移网络异常案例分析”这篇
NO.8 本月我们首先了解一下新增的部分实用功能和如何部署Oracle数据库、了解FTP机制、通过Squid代理上网、SSH密钥登录,最后我们还是要学会故障分析,着重推荐“应用数据迁移网络异常案例分析”这篇。
2127 0
|
弹性计算 程序员 开发者
开发者论坛一周精粹(第五十八期)web.py构服务器开启https
开发者论坛每周选取精华内容总结,精选论坛优质贴,每周更新一期,方便大家阅读! 教师节要不要送礼?老师想要的其实是这个... 福利达人摘要:程序员们,还记得教师节送给你老师的礼物吗? 程序员送的礼物很不一样呀~ Java,Python...... 揭秘>>https://bbs.aliyun.com/read/588564.html 对罗汉堂达摩院的思考 恬淡恬淡摘要:本文尝试在“怎么做(WHAT)”之外,思索“去哪里(WHY)”,以帮助寻找以下问题的答案。
2179 0
|
安全 数据安全/隐私保护 Windows
金蝶开k3wise客户端访问中间层不时提示远程服务器不存在或不可用
此问题一般是发生在WIN7客户端+中间层为WIN2008 R2系统,一般是中间层启用guest引起: a. 从Windows Vista以后, Negotiate (http://msdn.microsoft.com/en-us/library/windows/desktop/aa378748(v=vs.85).aspx) authentication 启用了 ISC_REQ_INTEGRITY。
2031 0
下一篇
无影云桌面