AI 助理
备案控制台
开发者社区 ModelScope模型即服务 正文

modelscope-funasr cpu能不能也支持一下libtorch呢?

modelscope-funasr cpu能不能也支持一下libtorch呢? 有对比说libtorch比onnx慢的数据吗?

展开
收起
嘟嘟嘟嘟嘟嘟 2023-12-20 08:22:31 56 分享 版权
1 条回答
写回答
取消 提交回答
  • 番茄酱脑袋

    有，数据有文档，你去runtime/docs里面找。此回答整理自钉群“modelscope-funasr社区交流”

    2023-12-20 09:23:06
    赞同 展开评论
相关问答
modelscope-funasr有没有配置项可以设置cpu大小？
414
13
0
modelscope-funasr在windows(cpu)上跑要多大的内存?
198
0
0
modelscope CPU跑chatglm有什么加速的方法嘛？
120
1
0
modelscope-funasr这里怎么写死cpu？
161
1
0
modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的参数量是一样的么？
163
0
0
modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的是一样的么？
124
0
0
在modelscope-funasr中最windows 上跑一点开始，cpu就一直100%如何解决？
93
0
0
在modelscope-funasr中想问下只跑cpu，本地录音文件转文本，需要什么配置的服务器呀？
130
0
0
s工具的CPU和内存规格现在能在yaml文件里面配置直接部署了？
1111
1
0
我们现在 就用go+fc，那这样的话，我的yaml文件，CPU和内存的配置要怎么写呢？
845
1
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

热门讨论

热门文章

  • ModelScope下载速度慢怎么解决？
  • 我希望通过damo-YOLO训练1500*1500的图片
  • ModelScope中，模型下载默认路径在哪个路径？
  • dataset的版本问题导致与modelscope不兼容
  • qwen3-32b和qwen-2.5-32b-Instruct有什么区别
  • cpu部署报错 Torch not compiled with CUDA enabled
  • 如何下载modelscope模型？
  • ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
  • ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
  • 调用Dashscope接口时报错
    • 展开全部
  • 92_自我反思提示：输出迭代优化
  • 144_推理时延优化：Profiling与瓶颈分析 - 使用PyTorch Profiler诊断推理延迟，优化矩阵运算的独特瓶颈
  • AgentScope：阿里开源多智能体低代码开发平台，支持一键导出源码、多种模型API和本地模型部署
  • MNN-LLM App：在手机上离线运行大模型，阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
  • 通义DeepResearch全面开源！同步分享可落地的高阶Agent构建方法论
  • 139_剪枝优化：稀疏模型压缩 - 分析结构化剪枝的独特速度提升与LLM部署加速实践
  • Dolphin：40语种+22方言！清华联合海天瑞声推出的语音识别大模型，识别精度超Whisper两代
  • 115_LLM基础模型架构设计：从Transformer到稀疏注意力
  • 142_故障容错：冗余与回滚机制 - 配置多副本的独特健康检查
  • 45_混合专家模型：MoE架构详解
    • 展开全部
    还有其他疑问?
    咨询AI助理