modelscope有哪些推理加速模块呢,fastLLM之外还有哪些呢?

modelscope有哪些推理加速模块呢,fastLLM之外还有哪些呢? 例外fastllm怎么在win11下编译呢?

展开
收起
闲o月 2023-12-18 13:49:49 97 分享 版权
1 条回答
写回答
取消 提交回答
  • qwen可以用flash attention,modelscope1.10镜像中有vllm,也有开发者用过tensorrt 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2023-12-18 22:00:08
    赞同 展开评论

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

热门讨论

热门文章

还有其他疑问?
咨询AI助理