个人开发者实战:从0到1手搓局域网 GPU 算力共享平台,并成功上架微软商店

简介: 个人开发者打造局域网GPU算力共享平台「算力集市」,支持RTX显卡闲置资源安全共享。基于Flutter+FastAPI+Docker架构,实现UDP秒级发现、容器沙盒隔离、YAML任务校验与虚拟算力点计费,已开源并上架微软商店。(239字)

个人开发者实战:从0到1手搓局域网 GPU 算力共享平台,并成功上架微软商店

前言:为什么要做这个项目?

作为一个全栈独立开发者,我手头有一台带 RTX 3060 的主机。平时除了跑跑本地大模型、做做 AI 漫剧,大部分时间它的算力都在闲置。而另一边,很多高校学生、小型工作室在跑深度学习、ComfyUI 出图时,却因为云端 GPU 太贵而发愁。

于是,我萌生了一个想法:能不能做一个局域网内的“算力 Airbnb”?让闲置的显卡安全地共享给同网段的开发者使用。

经过几周的爆肝开发,这个名为 「算力集市 (Compute Bazaar)」 的项目不仅跑通了完整的业务闭环,还成功打包上架了微软商店。今天把开发过程中的架构设计与踩坑经验分享给大家。

开源地址:https://gitee.com/tianyeHome/compute_bazaar (已采用 Apache-2.0 协议开源)
技术栈:Flutter (GetX + MVVM) + Python FastAPI + Docker + WSL2


一、核心功能与技术架构

为了保证安全性和极客感,平台采用了“双模式”设计:租客模式和出租模式。

🛠️ 整体架构

  • 前端:Flutter + GetX + MVVM (Monorepo 架构),打包为 Windows 桌面端 MSIX。
  • 后端:Python FastAPI + pynvml (硬件监控) + SQLite (任务持久化)。
  • 通信:UDP 广播 (局域网节点发现) + HTTP REST (指令下发) + SSE (实时监控流)。
  • 隔离环境:Docker 容器。

✨ 四大核心亮点

  1. 局域网秒级发现:无需公网 IP,基于 UDP 广播自动发现同网段节点。
  2. Docker 沙盒隔离:所有任务在容器中执行,绝对保护房东的宿主机安全。
  3. 受控任务包 (YAML):支持自定义 YAML 定义镜像和命令,严格过滤特权模式。
  4. 虚拟算力点计费:不碰真实资金,通过心跳与时间片机制,精准计算消耗的“算力点”。

二、硬核踩坑实录(技术干货)

在开发过程中,我遇到了几个极其棘手的技术难点,这里重点复盘一下:

1. WSL2 下的 Docker GPU 透传(地狱难度)

为了让 Windows 用户能通过 Docker 隔离任务,必须让 WSL2 里的 Docker 能够使用宿主机的 NVIDIA 显卡。

  • 踩坑:一开始试图在 WSL2 里装 K8s 和 HAMi 做显存切片,结果遇到了致命的 unresolvable CDI devices 和 cgroups 格式错误。因为 WSL2 的 GPU 透传机制(/dev/dxg)与原生 Linux 完全不同。
  • 解决:放弃复杂的硬切片,改用 Docker 原生 CDI 模式。将 nvidia-container-runtime 配置为 cdi,并手动修补 CDI spec 文件,注入 libdxcore.so。最终成功实现了“单卡多容器”共享。

2. 幽灵 IP 与 UDP 发现

在局域网广播时,经常扫出 172.25.xxx.xxx 这样的幽灵节点。

  • 踩坑:Python 在获取本机 IP 时,优先拿到了 WSL 虚拟网卡的 IP,导致前端连不上。
  • 解决:废弃传统的遍历网卡方式,改用最稳健的 UDP 路由探测法(向 8.8.8.8 发送 UDP 包获取出口 IP),完美避开了所有虚拟网卡。

3. 动态 YAML 任务包与安全校验

如果让用户随便传 YAML,会有严重的安全隐患。

  • 解决:后端引入 PyYAML 和 Pydantic,在接收 YAML 时做三层校验:语法校验 -> 必填字段校验 -> 安全拦截(直接拦截 privileged: true 和挂载 C:/ 盘的特权操作)。只要校验不通过,直接打回。

4. 自动化拉起与心跳防误判

用户点击“开启服务”时,Flutter 需要自动静默拉起 Python 打包的后端 exe。

  • 踩坑:拉起需要时间,此时前端的心跳检测会连续失败,导致界面疯狂闪红灯报错。
  • 解决:引入 HeartbeatController.markAgentStarting() 状态机。在 Agent 启动期间跳过失败计数,只有真正连续 3 次(90秒)未确认才判定断线。

三、界面展示

(发布到 CSDN 时,记得在这里插入你的 4 张高清截图)

1. 节点发现与 GPU 监控

真实的显卡利用率、显存与温度监控,基于 pynvml 和 fl_chart 绘制的心电图式折线图。
在这里插入图片描述

2. 自定义 YAML 任务提交

支持用户粘贴自定义 YAML 任务包,实时进行安全校验,下方绿灯提示通过。
在这里插入图片描述

3. 任务管理与算力点计费

跑通完整的商业闭环,任务秒级完成,准确扣除 1 个算力点。
在这里插入图片描述


四、如何体验?

目前 v0.1.0 单机版已经正式发布,并且已提交微软商店审核。

  • 源码编译:直接 clone Gitee 仓库,进入 apps/compute_bazaar_local 执行 flutter run -d windows。
  • 绿色免安装版:在 Gitee 的 Releases 页面,下载 ComputeBazaar-v0.1.0-Windows-x64.zip,解压双击即可运行。

⚠️ 运行环境要求:需要 Windows 10/11,并提前在 WSL2 中安装并启动 Docker 环境。


五、总结与后续规划

作为一个个人独立项目,能走到这一步非常有成就感。

v0.2.0 的规划:

  1. 实现 Ubuntu 双系统下的 HAMi 部署,做真正的“显存硬切片”(A 租客只能用 3G,B 租客只能用 4G)。
  2. 实现联网版,加入 NAT 穿透,让跨城调度算力成为可能。

如果这个项目对你有启发,或者你也想把自己的闲置显卡变成“AI 时代的房东”,欢迎来 Gitee 提 Issue,或者给个 Star 支持一下!

🌟 Gitee 传送门:https://gitee.com/tianyeHome/compute_bazaar

相关文章
|
存储 NoSQL MongoDB
MongoDB如何创建数据库
MongoDB如何创建数据库
|
运维 负载均衡 监控
slb产品详情介绍
slb产品详情介绍
1140 1
|
4天前
|
JSON 前端开发 API
Flash 模型 Bechmark 横评
对轻量模型的能力做一些横评
122 1
|
1月前
|
缓存 人工智能 测试技术
Qwen3.8‑Flash多模态大模型全解析:MoE高效架构、百万上下文、Agent开发与API实操完整指南
在AI业务规模化落地的阶段,很多线上业务面临两难的现实困境:一方面线上服务需要高吞吐、低时延,能够支撑大量用户并发请求;另一方面又需要兼顾长文档解析、图文视频多模态理解、工具调用Agent等复杂能力。传统稠密大模型,想要获得强能力就要付出极高推理成本;轻量化小模型虽然速度快、价格低,但面对复杂逻辑、长文本、图表解析任务效果会明显下滑。
311 0
|
2月前
|
SQL 数据可视化 Java
企业级数据中台开源软件:数智云的数据治理与服务化架构
数智云是一套面向企业数据治理与服务化输出的开源数据中台,基于 Spring Boot、Spring Cloud 构建微服务架构。平台覆盖异构数据接入、元数据管理、数据标准、数据质量、主数据、数据集市、流程协同与可视化看板。通过 OAuth 2.0 权限控制、RESTful API、数据脱敏和任务调度,数智云将数据汇聚、治理与业务使用连接起来,适合需要统一管理多业务系统数据资产的企业。
|
5月前
|
运维 Linux 程序员
初级程序员必备的十大技能之基础 Linux 命令(二)
教程来源 http://vrhyh.cn/ 本节系统介绍Linux文件内容查看与处理核心命令:`cat`快速显示/合并文件;`less`/`more`分页浏览;`head`/`tail`查看首尾及实时日志;`grep`精准搜索与过滤;`sed`流式文本替换删除;`awk`结构化字段处理;`vim`高效终端编辑。覆盖日常运维、日志分析与脚本开发必备技能。
|
4月前
|
人工智能 自然语言处理 API
阿里云AI通用型节省计划简介:节省计划优势、抵扣范围与抵扣逻辑、具体折扣信息介绍
阿里云AI通用型节省计划是一种面向大模型按量付费场景的折扣权益计划。用户通过承诺一定期限内的最低消费金额(如1000元/月),换取对通义千问全系列及DeepSeek、Kimi等第三方模型推理费用的折扣抵扣,最高可享5.3折优惠。该计划按月独立核算,未使用额度自动清零,支持全预付与零预付两种付款方式,承诺周期可选3至24个月。其核心优势在于一份计划覆盖所有支持模型、跨模型灵活使用、与按量计费无缝衔接,适合开发者和企业实现精细化AI成本管理。
|
6月前
|
数据采集 物联网 中间件
仓储中RFID为何能逐步替代传统人工管理?
解析RFID在仓储中的应用优势,对比人工管理在效率、准确率与成本上的差异,说明RFID如何实现自动化、提升库存准确率并降低运营成本。
370 1
|
6月前
|
人工智能 自然语言处理 安全
【小白零踩坑】OpenClaw 2.6.4 本地部署常见问题与解决方法(内含安装包)
新手部署 OpenClaw 2.6.4 总踩坑?安装报错、启动闪退、汉化乱码全收录,不用懂代码、不用查复杂攻略,每一个问题都有直白好操作的解决步骤,附带稳定安装包,小白也能零压力完成部署。
|
Web App开发 搜索推荐 安全
macOS Sonoma 14.7.6 (23H626) 正式版 ISO、IPSW、PKG 下载
macOS Sonoma 14.7.6 (23H626) 正式版 ISO、IPSW、PKG 下载
1403 6
macOS Sonoma 14.7.6 (23H626) 正式版 ISO、IPSW、PKG 下载