备案控制台

开发者社区 > ModelScope模型即服务 > 自然语言处理 > 正文

modelscope-funasr这个推理cpu的情况下还能加速吗？

modelscope-funasr这个推理cpu的情况下还能加速吗？一段48s音频，除去加载模型，后面加载音频和推理加起来要44s lQLPJxhjh2iTk8_NAl_NB1mwaAn4kvU7KmIGgsIRPyMUAA_1881_607.png

展开

收起

三分钟热度的鱼 2024-07-24 20:46:11 43 0

0 条回答

写回答

取消提交回答

相关问答

modelscope-funasr有没有配置项可以设置cpu大小？

9

0

0

modelscope-funasr在windows(cpu)上跑要多大的内存?

13

0

0

ModelScope为啥使用notebook的cpu版本，finetune.sh脚本去训练一直失败？

17

1

0

modelscope CPU跑chatglm有什么加速的方法嘛？

24

1

0

modelscope-funasr这里怎么写死cpu？

47

1

0

modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的参数量是一样的么？

15

0

0

modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的是一样的么？

13

0

0

在modelscope上git上这个语句报错，我是CPU版本，怎么回事？

39

1

0

ModelScope中示例页面的GPU版本和CPU版本。这两个不同版本会影响推理效率吗？

31

1

0

s工具的CPU和内存规格现在能在yaml文件里面配置直接部署了？

1013

1

0

ModelScope模型即服务

自然语言处理

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

我要提问

热门讨论

热门文章

modelscope-funasr的FunClip怎么安装的？

open webui的RAG功能根本用不起来

如何下载llama模型到本地？

modelscope-funasr启动ASR服务的时候一直在提示ssl证书错误是咋回事？

modelscope-funasr在AutoModel里设置了关闭了，结果还是会打日志，为什么？

关于通义千问Qwen-7B-Chat模型下载问题

modelscope-funasr怎么使用 gpu 加速啊？

modelscope-funasr的SenseVoiceSmall目前只支持粤语这一种方言吗？

gpt3,加载数据时，MsDataset.load报错

modelscope-funasr的ITN安装WeTextProcessing报错如何解决？

展开全部

中文大模型体验

LLM 大模型学习必知必会系列(一)：大模型基础知识篇

2024年6月118篇代码大模型论文最全整理

检索增强生成(RAG)实践：基于LlamaIndex和Qwen1.5搭建智能问答系统

智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐

DashVector&千问7B模型，打造极简RAG 之基于专属知识的问答服务实践

RAG+AI工作流+Agent：LLM框架该如何选择，全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐

LLM 大模型学习必知必会系列(二)：提示词工程-Prompt Engineering 以及实战闯关

RAG：AI大模型联合向量数据库和 Llama-index，助力检索增强生成技术

FunAudioLLM试炼

展开全部

相关课程

更多

个性化语音合成模型微调

246

1

去学习

ModelScope社区Library技术架构介绍

220

1

去学习

相关电子书

更多

视觉AI能力的开放现状及ModelScope实战 立即下载

ModelScope助力语音AI模型创新与应用 立即下载

RDS SQL Server CPU高使用率性能优化 立即下载