备案控制台

开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

请问大佬，ZhipuAI/ChatGLM-6B模型可以支持设置为cpu吗？

请问大佬，ZhipuAI/ChatGLM-6B模型可以支持设置为cpu吗？

展开

收起

cuicuicuic 2023-04-10 23:42:21 248 0

1 条回答

写回答

取消提交回答

xin在这

这个全精度的不支持CPU，需要大概16G显存，此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

2023-04-11 19:11:22

赞同展开评论打赏

相关问答

modelscope-funasr这几个模型中有一些是只支持cpu运行的嘛?

10

0

0

通过CPU计算，联邦计算也不会节省时间，对于大模型性能会不会很差，后续会不会支持高性能GPU计算

17

2

0

modelscope-funasr这个recipe跑出来的模型在cpu推理的rtf是多少呀？

14

1

0

modelscope-funasr设置ncpu=12可是cpu还是只用了4核？

23

1

0

modelscope用swift微调加载微调后的模型，设置哪些参数能增加GPU、CPU的效率？

23

1

0

有没有办法优化降低ModelScope模型推理占用的CPU率？

21

0

0

modelscope中，在用CPU实例做模型的自我感知微调，进度条卡顿数分钟，原因是算力吗？

41

2

0

s工具的CPU和内存规格现在能在yaml文件里面配置直接部署了？

984

1

0

我们现在就用go+fc，那这样的话，我的yaml文件，CPU和内存的配置要怎么写呢？

752

1

0

VCPU是什么东西，以前的按内存量使用，现在需要在基础上再加一个CPU使用费用是吗？

781

1

0

ModelScope模型即服务

计算机视觉

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

我要提问

热门讨论

热门文章

com/action/joingroup?code=v1是什么意思

ModelScope中，模型下载默认路径在哪个路径？

我希望通过damo-YOLO训练1500*1500的图片

服务器上onnxruntime-gpu 调用结束，如何释放显存

Modelscope魔塔的创空间的文件怎么下载到本地呀？

ModelScope从魔塔社区创建的阿里服务没有使用抵扣资源包而是付费实例。怎么处理？

ModelScope 使用14B模型推理时报这个错误？

ModelScope中，请问Qwen-14B-Chat-Int4运行最少需要多少内存？

streamlit 生成链接无法访问，gradio只生成内网，无法生成公网

如何下载modelscope模型？

展开全部

Stable Diffusion 介绍与入门

ModelScope模型使用与EAS部署调用

图像分类基础与实战

关键点检测从入门到进阶

人像增强修复

Stable Diffusion使用窍门

达摩院OpenVI-视频目标跟踪ICASSP 2023 Oral 渐进式上下文Transformer跟踪器 ProContEXT

视觉AI技术体系及趋势概述

modelscope调用的模型如何指定在特定gpu上运行？排除使用CUDA_VISIBLE_DEVICES环境变量

展开全部

相关电子书

更多

RDS SQL Server CPU高使用率性能优化 立即下载

低代码开发师（初级）实战教程 立即下载

阿里巴巴DevOps 最佳实践手册 立即下载