3
条回答
写回答
写回答
-
面对过去，不要迷离；面对未来，不必彷徨；活在今天，你只要把自己完全展示给别人看。对于MGeo模型在ModelScope中是否有加速推理的onnx导出版，目前的资料并没有明确提供。您可以尝试使用ONNX Runtime来进行模型推理，这有可能帮助提升模型的运行速度。此外，如果遇到推理速度慢的问题，一种可能的解决方法是把模型下载到本地后做量化处理，再使用ModelScope的pipeline进行推理。
2023-12-04 15:08:51赞同 展开评论 打赏 -
ONNX Runtime是一个支持ONNX格式的推理引擎，它被广泛用于加载模型文件，加速模型推理预测，并且提供多平台，多语言支持。因此，理论上MGeo模型如果有ONNX格式的导出版本，应该可以使用ONNX Runtime进行加速推理。但是目前没有确切的信息表明MGeo模型是否有ONNX格式的导出版本。
2023-12-04 14:17:43赞同 展开评论 打赏 -
支持导出ONNX的ModelScope模型表中没有mgeo，https://modelscope.cn/docs/%E6%A8%A1%E5%9E%8B%E7%9A%84%E5%AF%BC%E5%87%BA 。模型卡片上有另一个群号，您也可以咨询一下哈，https://modelscope.cn/models/damo/mgeo_backbone_chinese_base/summary 。此回答整理自钉钉群：魔搭ModelScope开发者联盟群 ①
2023-12-04 08:04:59赞同 展开评论 打赏
相关问答
热门讨论
热门文章
ModelScope中，模型下载默认路径在哪个路径？
9295
com/action/joingroup?code=v1是什么意思
6848
我希望通过damo-YOLO训练1500*1500的图片
8490
请问在 ModelScope 上的模型断网使用报这个错误啥原因了?
2085
服务器上onnxruntime-gpu 调用结束，如何释放显存
5031
ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
1859
ModelScope 使用14B模型推理时报这个错误？
1756
streamlit 生成链接无法访问，gradio只生成内网，无法生成公网
2580
在ModelScope中，请问模型下载到本地的具体方法？
1487
ModelScope有没有人知道windows安装ttsfrd的方法或者ttsfrd源码？
753
展开全部
