热门
ModelScope有什么加速模型推荐吗?我现在有个模型的算力占用太高 一个都要百分之80 我想做并发 几个一起生成的话 生成速度就会慢很少
modelscope1.10镜像中装了vllm,试试您用的模型是否支持。https://modelscope.cn/docs/%E6%9C%AC%E5%9C%B0%E5%90%AF%E5%8A%A8%E6%9C%8D%E5%8A%A1 ,此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”
包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域