个人开发者实战:从0到1手搓局域网 GPU 算力共享平台,并成功上架微软商店

简介: 个人开发者打造局域网GPU算力共享平台「算力集市」,支持RTX显卡闲置资源安全共享。基于Flutter+FastAPI+Docker架构,实现UDP秒级发现、容器沙盒隔离、YAML任务校验与虚拟算力点计费,已开源并上架微软商店。(239字)

个人开发者实战:从0到1手搓局域网 GPU 算力共享平台,并成功上架微软商店

前言:为什么要做这个项目?

作为一个全栈独立开发者,我手头有一台带 RTX 3060 的主机。平时除了跑跑本地大模型、做做 AI 漫剧,大部分时间它的算力都在闲置。而另一边,很多高校学生、小型工作室在跑深度学习、ComfyUI 出图时,却因为云端 GPU 太贵而发愁。

于是,我萌生了一个想法:能不能做一个局域网内的“算力 Airbnb”?让闲置的显卡安全地共享给同网段的开发者使用。

经过几周的爆肝开发,这个名为 「算力集市 (Compute Bazaar)」 的项目不仅跑通了完整的业务闭环,还成功打包上架了微软商店。今天把开发过程中的架构设计与踩坑经验分享给大家。

开源地址:https://gitee.com/tianyeHome/compute_bazaar (已采用 Apache-2.0 协议开源)
技术栈:Flutter (GetX + MVVM) + Python FastAPI + Docker + WSL2


一、核心功能与技术架构

为了保证安全性和极客感,平台采用了“双模式”设计:租客模式和出租模式。

🛠️ 整体架构

  • 前端:Flutter + GetX + MVVM (Monorepo 架构),打包为 Windows 桌面端 MSIX。
  • 后端:Python FastAPI + pynvml (硬件监控) + SQLite (任务持久化)。
  • 通信:UDP 广播 (局域网节点发现) + HTTP REST (指令下发) + SSE (实时监控流)。
  • 隔离环境:Docker 容器。

✨ 四大核心亮点

  1. 局域网秒级发现:无需公网 IP,基于 UDP 广播自动发现同网段节点。
  2. Docker 沙盒隔离:所有任务在容器中执行,绝对保护房东的宿主机安全。
  3. 受控任务包 (YAML):支持自定义 YAML 定义镜像和命令,严格过滤特权模式。
  4. 虚拟算力点计费:不碰真实资金,通过心跳与时间片机制,精准计算消耗的“算力点”。

二、硬核踩坑实录(技术干货)

在开发过程中,我遇到了几个极其棘手的技术难点,这里重点复盘一下:

1. WSL2 下的 Docker GPU 透传(地狱难度)

为了让 Windows 用户能通过 Docker 隔离任务,必须让 WSL2 里的 Docker 能够使用宿主机的 NVIDIA 显卡。

  • 踩坑:一开始试图在 WSL2 里装 K8s 和 HAMi 做显存切片,结果遇到了致命的 unresolvable CDI devices 和 cgroups 格式错误。因为 WSL2 的 GPU 透传机制(/dev/dxg)与原生 Linux 完全不同。
  • 解决:放弃复杂的硬切片,改用 Docker 原生 CDI 模式。将 nvidia-container-runtime 配置为 cdi,并手动修补 CDI spec 文件,注入 libdxcore.so。最终成功实现了“单卡多容器”共享。

2. 幽灵 IP 与 UDP 发现

在局域网广播时,经常扫出 172.25.xxx.xxx 这样的幽灵节点。

  • 踩坑:Python 在获取本机 IP 时,优先拿到了 WSL 虚拟网卡的 IP,导致前端连不上。
  • 解决:废弃传统的遍历网卡方式,改用最稳健的 UDP 路由探测法(向 8.8.8.8 发送 UDP 包获取出口 IP),完美避开了所有虚拟网卡。

3. 动态 YAML 任务包与安全校验

如果让用户随便传 YAML,会有严重的安全隐患。

  • 解决:后端引入 PyYAML 和 Pydantic,在接收 YAML 时做三层校验:语法校验 -> 必填字段校验 -> 安全拦截(直接拦截 privileged: true 和挂载 C:/ 盘的特权操作)。只要校验不通过,直接打回。

4. 自动化拉起与心跳防误判

用户点击“开启服务”时,Flutter 需要自动静默拉起 Python 打包的后端 exe。

  • 踩坑:拉起需要时间,此时前端的心跳检测会连续失败,导致界面疯狂闪红灯报错。
  • 解决:引入 HeartbeatController.markAgentStarting() 状态机。在 Agent 启动期间跳过失败计数,只有真正连续 3 次(90秒)未确认才判定断线。

三、界面展示

(发布到 CSDN 时,记得在这里插入你的 4 张高清截图)

1. 节点发现与 GPU 监控

真实的显卡利用率、显存与温度监控,基于 pynvml 和 fl_chart 绘制的心电图式折线图。
在这里插入图片描述

2. 自定义 YAML 任务提交

支持用户粘贴自定义 YAML 任务包,实时进行安全校验,下方绿灯提示通过。
在这里插入图片描述

3. 任务管理与算力点计费

跑通完整的商业闭环,任务秒级完成,准确扣除 1 个算力点。
在这里插入图片描述


四、如何体验?

目前 v0.1.0 单机版已经正式发布,并且已提交微软商店审核。

  • 源码编译:直接 clone Gitee 仓库,进入 apps/compute_bazaar_local 执行 flutter run -d windows。
  • 绿色免安装版:在 Gitee 的 Releases 页面,下载 ComputeBazaar-v0.1.0-Windows-x64.zip,解压双击即可运行。

⚠️ 运行环境要求:需要 Windows 10/11,并提前在 WSL2 中安装并启动 Docker 环境。


五、总结与后续规划

作为一个个人独立项目,能走到这一步非常有成就感。

v0.2.0 的规划:

  1. 实现 Ubuntu 双系统下的 HAMi 部署,做真正的“显存硬切片”(A 租客只能用 3G,B 租客只能用 4G)。
  2. 实现联网版,加入 NAT 穿透,让跨城调度算力成为可能。

如果这个项目对你有启发,或者你也想把自己的闲置显卡变成“AI 时代的房东”,欢迎来 Gitee 提 Issue,或者给个 Star 支持一下!

🌟 Gitee 传送门:https://gitee.com/tianyeHome/compute_bazaar

相关文章
|
29天前
|
人工智能 并行计算 API
秋叶 ComfyUI-v9.5 本地部署教程|整合包安装、显存优化与批量出图代码实战
本教程详解秋叶ComfyUI-v9.5本地部署:涵盖NVIDIA显卡硬件要求、英文路径解压、一键启动、OOM显存优化(lowvram/fp16/xformers)、Python API批量绘图及插件安装,4G显存亦可流畅运行。
2001 1
|
12月前
|
JSON 关系型数据库 MySQL
MySQL5.X和8.0有什么区别?
MySQL 8.0 相比 5.7 性能提升显著,支持 NoSQL、窗口函数、CTE、降序索引与隐藏索引,增强 JSON 处理,取消查询缓存以优化性能,默认使用 utf8mb4 编码,提升安全性、可靠性与高可用性,全面支持 ACID 事务和原子 DDL 操作。
784 5
|
2月前
|
编解码 缓存 自然语言处理
阿里云万相Wan3.0-Video 视频生成模型介绍:模型能力、模型价格、免费额度与API代码示例
本文详解阿里云万相3.0-Video一体化视频生成模型,其支持文生视频、多模态参考生视频、视频编辑等全链路创作能力,最长可生成30秒生产级视频。当前480P/720P/1080P三档规格限时7折,华北2地域提供30秒免费额度,配套完整API调用示例,帮助创作者与企业快速接入实现视频内容自动化生产。
阿里云万相Wan3.0-Video 视频生成模型介绍:模型能力、模型价格、免费额度与API代码示例
|
1月前
|
弹性计算 网络协议 应用服务中间件
SSL 证书 90 天到期太频繁:三种自动续期方案横向对比
证书 90 天到期,忘了续站点就报警告。这篇把三条续期自动化路线摆在一起对比:自建服务器用 acme.sh 全自动续签、云产品上开阿里云证书托管、以及用 HTTPS 加速网关把证书交给平台。含可直接复制的 acme.sh 命令、托管的触发条件与限制、选型决策表和 8 条避坑点,读完能给自己站点定一套不会再漏的续期机制。
|
1月前
|
并行计算 API 异构计算
类Jev项目Kev从入门到实战(4):安装使用:十分钟跑起来
Kev 是轻量级结构化推理模型,支持 Python/CLI/API 多种接入方式。10分钟即可本地部署,兼容 CUDA/ROCm/Metal,提供零安装在线试用、Modal 一键云端部署及完整 SDK,专为工单分类、情绪识别等场景优化。
330 3
|
30天前
|
存储 人工智能 运维
阿里云 OSS 对象存储服务租用价格表(一年 / 按月 / 按小时报价明细)
阿里云OSS对象存储是海量、安全、低成本、高可靠的云存储底座,广泛用于网站图片、音视频、静态资源、备份归档、大数据、AI训练数据集等场景。OSS提供标准、低频、归档、冷归档、深度冷归档五种存储类型,计费由**存储费用、流量费用、请求费用**以及图片处理、传输加速等增值费用共同组成。支持**按量后付费**与**资源包预付费**两种模式,资源包可按月、按年购买,按量计费按小时折算实际用量。本文整理各存储类型的报价明细,拆解计费规则、选型思路,附带命令行代码示例,帮助开发者、运维人员准确测算对象存储成本。
346 0
|
4月前
|
人工智能 JSON 数据可视化
ComfyUI 搭建 AI 漫剧生产线:零代码 AI 漫剧视频工作流
2026年AI漫剧已成创作新主流!本文详解「Dify + ComfyUI」零代码组合:Dify作智能大脑(剧本生成、多Agent协作、结构化输出),ComfyUI当执行双手(本地高清图/视频生成、角色一致性强)。全流程自动化,一人日产多集,支持本地部署与隐私保护。(238字)
|
2月前
|
缓存 自然语言处理 API
深度解析 Qwen3.8‑Max、Qwen3.7‑Max、Qwen3.7‑Plus、Qwen3.7‑Flash、Qwen3.8‑Flash:能力差异、API实操与企业项目选型完整指南
随着大模型智能体落地场景持续拓宽,越来越多开发者会面对多款同系列模型选型难题。百炼平台上架的Qwen3.8‑Max、Qwen3.7‑Max、Qwen3.7‑Plus、Qwen3.7‑Flash、Qwen3.8‑Flash五款模型,覆盖从复杂深度推理、长周期智能体、多模态GUI操控到高吞吐低成本业务场景,不同模型在底层架构、上下文窗口、模态支持、代码能力、工具调用稳定性、计费成本上存在明显差异。很多开发者在项目前期直接选用高规格旗舰模型,带来不必要的高额推理成本;也有部分场景误用轻量模型,造成复杂任务推理失败、工具调用错乱、长文档解析丢失关键信息等问题。本文将从底层架构、核心能力、适用业务场景、
875 0
|
4月前
|
人工智能 物联网 开发工具
2026ComfyUI-保姆级部署教程-手把手带你ComfyUI工作流搭建
本教程面向零基础新手,详解2024最新版ComfyUI的安装、节点工作流(文生图/图生图)、ControlNet/Lora/Refiner模型配置、插件管理(如ComfyUI-Manager)及InsightFace部署,配图文步骤,助你快速上手AI绘图。