我在上面notebook上面运行gpu环境分词1000条 11秒可以处理完，自己搭建的gpu环境
https://modelscope.cn/models/damo/mgeo_geographic_elements_tagging_chinese_base/summary/?st=1JbkfRXrAZR4X5s-jL39m6w 我在上面notebook上面运行gpu环境分词1000条 11秒可以处理完，自己搭建的gpu环境要处理40秒+ 是性能问题吗？
展开
收起
1
条回答
写回答
写回答
-
pipeline_ins.model.device，先运行一次再print这个，测试时把第一次推理排除在外重新试试，pipeline_ins = pipeline(xxx) 和 第一次pipeline_ins(input)排除在外，此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”
2023-04-18 17:25:56赞同 展开评论 打赏
相关问答
热门讨论
热门文章
com/action/joingroup?code=v1是什么意思
2975
ModelScope中，模型下载默认路径在哪个路径？
2254
我希望通过damo-YOLO训练1500*1500的图片
6773
服务器上onnxruntime-gpu 调用结束，如何释放显存
3092
Modelscope魔塔的创空间的文件怎么下载到本地呀？
3046
ModelScope从魔塔社区创建的阿里服务 没有使用抵扣资源包 而是付费实例。怎么处理？
372
ModelScope 使用14B模型推理时报这个错误？
728
ModelScope中，请问Qwen-14B-Chat-Int4运行最少需要多少内存？
1135
streamlit 生成链接无法访问，gradio只生成内网，无法生成公网
1535
如何下载modelscope模型？
383
展开全部
