在ModelScope中，有哪位知道，notebook上跑个推理，用时2分53秒，正常吗？
在ModelScope中，有哪位知道，notebook上跑个推理，用时2分53秒，正常吗？怎么提升时间
用cpu推理的
展开
收起
1
条回答
写回答
写回答
-
首次可能是加载数据等耗时，后面就比较快了。这后面您再换prompt推理一次试试，比如：
prompt = "做一份西湖旅游攻略"
resp = generate_response(prompt)
print(resp)————此回答整理自钉群：“魔搭ModelScope开发者联盟群 ①”2023-10-11 21:09:43赞同 展开评论 打赏
相关问答
热门讨论
热门文章
com/action/joingroup?code=v1是什么意思
8127
ModelScope中，模型下载默认路径在哪个路径？
10654
我希望通过damo-YOLO训练1500*1500的图片
9187
ModelScope有没有人知道windows安装ttsfrd的方法或者ttsfrd源码？
1144
请问在 ModelScope 上的模型断网使用报这个错误啥原因了?
2660
服务器上onnxruntime-gpu 调用结束，如何释放显存
5679
ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
2302
ModelScope下载速度慢怎么解决？
1279
我想使用 Modelscope 自己下载下来的本地模型，不知道怎么操作？
962
ModelScope中，请问Qwen-14B-Chat-Int4运行最少需要多少内存？
2053
展开全部
SPAR3D：一张图片就能生成3D模型，每个物体的重建时间仅需0.7秒！
99
AddressCLIP：一张照片就能准确定位！中科院联合阿里云推出街道级图像地理定位模型
78
EchoMimicV2：阿里推出的开源数字人项目，能生成完整数字人半身动画
493
Ingredients：无需额外训练的多ID视频生成框架，通过多张人物照片生成定制视频
64
STAR：南京大学联合字节开源视频超分辨率增强生成框架，视频清晰度一键提升，支持从低分辨率视频生成高分辨率视频
61
CreatiLayout：复旦与字节联合推出布局到图像生成技术，支持高质量图像生成与布局优化
64
TransPixar：港中文联合 Adobe 开源透明背景视频生成模型，生成透明背景的 RGBA 视频，助力特效等视觉效果制作
53
LatentSync：根据音频生成高分辨率、动态逼真的唇形同步视频
88
VideoRefer：阿里达摩院开源视频对象感知与推理框架，可集成 VLLM 提升其空间和时间理解能力
53
JoyCaption：开源的图像转提示词生成工具，支持多种风格和场景，性能与 GPT4o 相当
50
展开全部
