ModelScope中，I914900K，4090显卡，64G内存，3个T硬盘，能跑什么开源大模型？
https://mp.weixin.qq.com/s/nmjr5gIAwRvoBRbIN4_vrg 跑14B模型显存不够，可以看下Int8等量化模型。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”
ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352
评论
全部评论 (0)