备案控制台

开发者社区

开发者社区 > ModelScope模型即服务 > 正文

有没有办法优化降低ModelScope模型推理占用的CPU率？

有没有办法优化降低ModelScope模型推理占用的CPU率？

展开

收起

Lucidly 2024-03-26 20:04:21 19 0

0 条回答

写回答

取消提交回答

相关问答

ModelScope目前跑了10次脚本，直接跑，evalloss一直降低吗?

3

1

0

使用这个模型本地推理时访问modelscope的80端口

23

0

0

Modelscope的数据集有550条数据，不知道epoch设置多少模型训练后不会过拟合但又有效果?

10

1

0

下载到本地执行就报缺少文件，是不是用Modelscope的CPU不行?

6

1

0

微调了seqGPT,后面在推理ModelScope使用的时候报错，这是什么原因呢？

11

1

0

有arm架构的ModelScope cpu镜像吗？

12

1

0

modelscope怎么限制cpu的使用量？

7

0

0

ModelScope特地降低了datasets库的版本到2.13.0……死循环了，怎么解决？

12

0

0

modelscope-funasr这个recipe跑出来的模型在cpu推理的rtf是多少呀？

12

1

0

modelscope-funasr官网下载的.pt模型和转换的.onnx模型推理结果不一致是为什么？

10

0

0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！

我要提问

热门讨论

热门文章

com/action/joingroup?code=v1是什么意思

ModelScope中，模型下载默认路径在哪个路径？

在ModelScope中，想了解一下Qwen-14B微调用的训练数据该如何处理？

ModelScope的Qwen1.5-14B-Chat需要多少大显存？

请问ModelScope中，怎么修改本地运行，模型自动下载到 c 盘下？

ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？

ModelScope中，请问Qwen-14B-Chat-Int4运行最少需要多少内存？

我希望通过damo-YOLO训练1500*1500的图片

从魔塔领取gpu免费资源无法连接huggingface.co

如何训练属于自己的“通义千问”呢？

展开全部

手把手教你捏一个自己的Agent

阿里云通义千问向全社会开放！

Llama 3开源！魔搭社区手把手带你推理，部署，微调和评估

通义千问72B、1.8B、Audio模型开源！魔搭社区最佳实践来啦！

社区供稿 | Llama3-8B中文版！OpenBuddy发布新一代开源中文跨语言模型

Phi-3：小模型，大未来！（附魔搭社区推理、微调实战教程）

Qwen1.5开源！魔搭最佳实践来啦！

社区供稿 | FunASR 语音大模型在 Arm Neoverse 平台上的优化实践

Llama3 中文通用Agent微调模型来啦！（附手把手微调实战教程）

ChatGPT中文版杀疯了,已登录AI模型市场

展开全部

相关课程

更多

PAI平台学习路线：机器学习入门到应用

685

52

去学习

场景实践 - 机器学习PAI实现精细化营销

138

7

去学习

场景实践 - 基于阿里云PAI机器学习平台使用时间序列分解模型预测商品销量

97

8

去学习

场景实践 - 基于机器学习进行收入预测分析

62

6

去学习

机器学习概览及常见算法

29627

13

去学习

机器学习入门-概念原理及常用算法

13183

8

去学习

相关电子书

更多

阿里云机器学习平台——PAI 平台 立即下载

机器学习在恶意样本检测方面的实践之路 立即下载

大规模机器学习在蚂蚁+阿里的应用 立即下载

相关实验场景

更多