AI 助理
备案控制台
开发者社区 ModelScope模型即服务 计算机视觉 正文

ModelScope sambert这个模型的执行速度快慢跟什么有关系？

ModelScope sambert这个模型的执行速度快慢跟什么有关系？我们现在跑这个项目处理一小句话要3-4秒，有没有什么办法解决？

展开
收起
真的很搞笑 2023-09-12 19:54:14 153 分享 版权
1 条回答
写回答
取消 提交回答
  • 芯在这

    抛开模型加载和modelscope整体初始化，纯粹pipeline推理正常如果CPU大概rtf在0.4左右(i7 9700K)，GPU在0.2左右(2080ti)，此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2023-09-13 07:48:52
    赞同 展开评论
相关问答
为什么ModelScope模型就调用不了了，在微调前可以正常推理？
192
2
0
设置也无法指定gpu，是否在ModelScope模型内部修改代码？
139
2
0
14B 的ModelScope模型是可以预训练的吗？
144
1
0
modelscope-funasr微调非实时模型时，训练数据对应text文件的文字需要用空格隔开吗？
125
1
0
modelscope-funasr新版本很多模型不能和 vad一起用吗？
148
1
0
modelscope中，在用CPU实例做模型的自我感知微调，进度条卡顿数分钟，原因是算力吗？
223
2
0
modelscope中pr一个公式识别ocr模型，已经封装好了包还要拆分数据处理器和Pipline？
111
1
0
调出来的ModelScope模型表现反而比原始模型更差， 能帮助排查一下吗？
77
0
0
modelscope-funasr中，vad切完后送到asr模型识别吗？
90
0
0
如何查看KAN-TTS在ModelScope上的模型列表？
104
1
0
ModelScope模型即服务

计算机视觉

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

我要提问

相关文章

  • 高效率办公PDF批量处理：批量OCR识别PDF区域文字内容，用PDF内容批量改名或导出表格的货物运单应用案例
  • 机器视觉软件平台哪个好：2025领衔的选型指南
  • 机器视觉公司有哪些：德创测控引领，产教融合优选指南​
  • 机器视觉公司有哪些：国产平台德创引领产教融合
  • AI内容创作Agent架构解析：基于移动端原生框架的内容特工队AI (ReelsAgent)与传统短视频工具的技术差异

    • 热门讨论

    热门文章

  • ModelScope下载速度慢怎么解决？
  • 我希望通过damo-YOLO训练1500*1500的图片
  • ModelScope中，模型下载默认路径在哪个路径？
  • com/action/joingroup?code=v1是什么意思
  • ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
  • 如何下载modelscope模型？
  • 报错原因？
  • 服务器上onnxruntime-gpu 调用结束，如何释放显存
  • cpu部署报错 Torch not compiled with CUDA enabled
  • 在ModelScope中，下载模型时的ssl问题怎么解决？!
    • 展开全部
  • Manga Image Translator：开源的漫画文字翻译工具，支持多语言翻译并嵌入原图，保持漫画的原始风格和布局
  • Qwen2.5-VL：阿里通义千问最新开源视觉语言模型，能够理解超过1小时的长视频
  • RF-DETR：YOLO霸主地位不保？开源 SOTA 实时目标检测模型，比眨眼还快3倍！
  • X-AnyLabeling：开源的 AI 图像标注工具，支持多种标注样式，适于目标检测、图像分割等不同场景
  • video-analyzer：开源视频分析工具，支持提取视频关键帧、音频转录，自动生成视频详细描述
  • ColorFlow：腾讯和清华大学联合推出的图像序列着色模型，通过参考图像的颜色对黑白漫画进行着色生成彩色漫画
  • STAR：南京大学联合字节开源视频超分辨率增强生成框架，视频清晰度一键提升，支持从低分辨率视频生成高分辨率视频
  • SPAR3D：一张图片就能生成3D模型，每个物体的重建时间仅需0.7秒！
  • UI-TARS：字节跳动开源专注于多平台 GUI 自动化交互的视觉语言模型
  • AddressCLIP：一张照片就能准确定位！中科院联合阿里云推出街道级图像地理定位模型
    • 展开全部
    还有其他疑问?
    咨询AI助理