在ModelScope中，14B的模型用N卡3090能跑起来吗？
14B的模型用N卡3090能跑起来吗？LLM 中模型 revision（当时适配的模型版本）， 怎么获取呢？
展开
收起
2
条回答
写回答
写回答
-
面对过去，不要迷离；面对未来，不必彷徨；活在今天，你只要把自己完全展示给别人看。在 ModelScope 中，能否使用一张 NVIDIA GeForce RTX 3090 GPU 来运行一个大小为 14B 的模型，取决于多个因素：
GPU内存：14B 模型通常需要大量的显存来存储模型参数和执行推理过程。NVIDIA GeForce RTX 3090 GPU 拥有24GB的显存，对于绝大多数情况来说，它应该足够运行这样的模型。
平台和框架支持：您需要确保所使用的平台和深度学习框架（如TensorFlow、PyTorch等）对NVIDIA GeForce RTX 3090 GPU提供了适当的支持。这可以通过查看平台和框架的官方文档来确认。
其他硬件要求：除了显存之外，您还需要确保系统配置满足运行深度学习模型的其他硬件要求，例如CPU、内存和存储等。这些要求也可以在平台和框架的官方文档中找到。
2023-11-30 15:04:16赞同 展开评论 打赏 -
相关问答
热门讨论
热门文章
com/action/joingroup?code=v1是什么意思
7984
ModelScope中，模型下载默认路径在哪个路径？
10533
请问在 ModelScope 上的模型断网使用报这个错误啥原因了?
2602
我希望通过damo-YOLO训练1500*1500的图片
9127
服务器上onnxruntime-gpu 调用结束，如何释放显存
5624
ModelScope有没有人知道windows安装ttsfrd的方法或者ttsfrd源码？
1081
ModelScope下载速度慢怎么解决？
1239
ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
2257
如何下载modelscope模型？
1505
ModelScope中，请问Qwen-14B-Chat-Int4运行最少需要多少内存？
2020
展开全部
EchoMimicV2：阿里推出的开源数字人项目，能生成完整数字人半身动画
426
Cobalt：开源的流媒体下载工具，支持解析和下载全平台的视频、音频和图片，支持多种视频质量和格式，自动提取视频字幕
125
Infinity：字节跳动开源高分辨率图像生成模型，生成 1024x1024 的图像仅需 0.8 秒
61
StoryWeaver：故事可视化生成模型，快速生成故事绘本，支持处理单角色和多角色的故事可视化任务
53
极致的显存管理！6G显存运行混元Video模型
58
联通元景：中国联通开源中文原生的文生图模型，优化对中文长文本和成语语义等理解
48
InvSR：开源图像超分辨率生成模型，提升分辨率，修复老旧照片为超清图像
107
PersonaMagic：人像与风格融合！快速生成个性化的头像
41
MagicMirror：一键 AI 换脸、换发型和换穿搭，拖放照片就能实现换脸和形象变换，本地运行无需配置
38
VITRON：开源像素级视觉大模型，同时满足图像与视频理解、生成、分割和编辑等视觉任务
38
展开全部
