1158981588321957_个人页

2026年07月

• 07.21 18:39:09
  发表了文章 2026-07-21 18:39:09

  大模型显存溢出解决方案盘点 不同卸载架构落地成本对比

  显存溢出本质是模型参数、KV缓存、激活值等与GPU内存的容量错配。解决需分层施策：量化压缩、PagedAttention、CPU/NVMe卸载、CXL内存分层及分布式调度，而非盲目升级硬件。（239字）
• 07.21 17:04:32
  发表了文章 2026-07-21 17:04:32

  通过MemVerge Memory Machine扩展内存

  MemVerge Memory Machine是一款大内存加速软件，支持DRAM/PMEM虚拟化与跨节点内存池化，无需改代码即可提升AI/ML、HPC等大内存应用性能，并提供企业级数据高可用服务。（239字）