本地部署马斯克开源Grok-1大模型,贝锐花生壳3步实现远程访问

简介: 在人工智能领域,除了在线工具如ChatGPT和Midjourney,本地部署的AI工具如Stable Diffusion同样重要,尤其在满足定制需求和确保数据安全方面。以马斯克的xAI开源项目Grok-1为例,这款拥有314B参数的大模型需要高性能硬件支持。借助贝锐花生壳的内网穿透技术,用户可通过简单的三步操作实现对这类AI工具的远程访问:安装并登录花生壳客户端、设置内网穿透映射、生成并使用远程访问地址。花生壳提供的HTTPS映射确保了访问的安全性,使远程使用AI工具变得更加便捷和安全。

在人工智能的领域,除了广受欢迎的在线工具如 ChatGP T、Midjourney等,还有许多开源且支持本地部署的 AI 工具也值得关注,在满足定制化需求和数据安全方面具有独特优势。结合贝锐花生壳的内网穿透,用户可以轻松实现远程访问这些AI工具,无需复杂的网络配置,这对于需要大量算力的模型尤为实用。

比如,马斯克的xAI也开源了Grok-1,这是一个拥有314B参数的大型语言模型,如运行Grok-1可能需要超过300G显存的GPU。

image.png

显然Grok-1需要本地高性能服务器/工作站部署,用户远程通过浏览器Web界面访问,或是App、应用程序通过调用API等形式进行使用。

然而,对于许多希望利用AI工具的用户来说,远程访问这些工具往往面临着公网IP获取困难、端口映射繁琐、路由和网关设置复杂等问题。

以开源、支持本地部署的图像生成模型Stable Diffusion为例,通过Stable Diffusion web UI本地部署后,搭配花生壳内网穿透,简单3步就能实现远程浏览器进行访问、使用。

image.png

一、客户端安装与登录:用户访问贝锐官网并下载花生壳客户端。安装完成后,注册一个贝锐账号,并登录花生壳客户端。

image.png

二、 内网穿透设置:登录客户端后,进入花生壳云端管理平台。点击“内网穿透”选项——选择“添加映射”——选择“网站应用”。

image.png

*对于常见的网站应用,目前花生壳提供HTTP和HTTPS两种类型可用。

贝锐花生壳HTTP映射:可用于搭建HTTP协议的站点映射,属于非加密访问,建议搭配访问控制提升网站安全性;

贝锐花生壳HTTPS映射:用于创建访问安全加密的站点映射,同时花生壳可自动云端部署证书,本地无需额外申请、设置,非常方便。*

三、访问地址生成与使用:根据系统提示,用户需要正确填写相关信息,如 AI 工具的内网地址和端口等。完成设置并保存后,系统会自动生成一个外网访问地址。

image.png

用户只需复制这个地址,在远程主机上打开浏览器并输入该地址,即可访问并使用本地部署的AI工具,如 Stable Diffusion web UI,进行 AI 绘画创作。

image.png

总之,贝锐花生壳以其独特的内网穿透技术和用户友好的操作界面,为 AI 工具的远程访问提供了一种全新的解决方案。无论是企业用户还是个人开发者,都可以利用贝锐花生壳轻松实现 AI 工具的远程使用,推动 AI 技术的创新和应用。

目录
相关文章
|
7月前
|
网络安全 数据中心
百度搜索:蓝易云【Proxmox软件防火墙的配置教程】
现在,你已经完成了Proxmox软件防火墙的配置。请确保你的防火墙规则设置正确,以保护你的Proxmox VE环境免受未经授权的访问和网络攻击。
197 5
|
7月前
|
存储 安全 数据安全/隐私保护
Notion平替工具AFFINE知识库如何本地部署与公网远程访问
Notion平替工具AFFINE知识库如何本地部署与公网远程访问
252 1
|
4月前
|
测试技术 Linux Shell
ChatGPT访问难?ChatGLM+花生壳打造可远程访问的平替方案
ChatGPT虽强大,但访问受限。清华大学开源的ChatGLM提供了一种解决方案:用户可根据需求部署私有化的对话服务,支持中英文交互。与ChatGPT不同,ChatGLM便于定制与训练,并能获取已训练模型。结合贝锐花生壳等内网穿透工具,可轻松实现ChatGLM-webui远程访问,无需固定公网IP或路由配置,适用于测试及实际项目,有效规避了访问难题。
75 3
|
5月前
|
弹性计算 网络协议 Linux
阿里云主机构建FRP内网穿透家用服务器避坑指南
详述了利用FRP工具搭建内网穿透的流程,包括阿里云ECS的配置、家用服务器的准备、FRP工具的下载与配置,以及通过SSH远程访问本地服务器的解决策略,确保了内外网间的稳定连接。
1385 1
阿里云主机构建FRP内网穿透家用服务器避坑指南
|
7月前
|
PHP 数据安全/隐私保护 Windows
使用Cpolar和极简主义文件管理器构建个人云储存平台并进行公网访问
使用Cpolar和极简主义文件管理器构建个人云储存平台并进行公网访问
|
网络协议 安全 网络安全
快来了解如何使用frp配置实验室服务器来内卷吧~
导师之前新购了3090N卡的服务器,然而只能内网访问,一开始大家使用向日葵软件远程连接,但这有个弊端,这样的桌面只能一个人使用,效率极低。 为了能够让服务器更好地造福于人,我发现了frp的存在,正巧自己还有一台到25年才过期的腾讯云轻量服务器,于是就开始桥接的工作。
160 0
|
关系型数据库 MySQL 应用服务中间件
开源QianWei搭建音乐网站,并实现公网连接
开源QianWei搭建音乐网站,并实现公网连接
462 0
|
网络协议 安全 应用服务中间件
【内网安全-隧道搭建】内网穿透_Ngrok上线(美版、国版二开)
【内网安全-隧道搭建】内网穿透_Ngrok上线(美版、国版二开)
584 0
【内网安全-隧道搭建】内网穿透_Ngrok上线(美版、国版二开)
【PythonWeb】两种方法、搭建自己的pypi服务器。内网的你,必须要会
【PythonWeb】两种方法、搭建自己的pypi服务器。内网的你,必须要会
|
弹性计算 Java
使用阿里云构建Minecraft服务器
谁不想拥有一个属于自己的Minecraft服务器,和朋友一起联机呢?
下一篇
DataWorks