开发者社区 > ModelScope模型即服务 > 正文

32B的模型推理特别慢,modelscope有什么加速的方案吗?

32B的模型推理特别慢,modelscope有什么加速的方案吗?

展开
收起
小小爱吃香菜 2024-05-25 20:24:29 33 0
1 条回答
写回答
取消 提交回答

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关产品

  • 人工智能平台 PAI
  • 相关电子书

    更多
    机器学习在互联网后端技术中的应用 立即下载
    阿里云机器学习平台 PAI 产品与技术 立即下载
    阿里云机器学习平台——PAI 平台 立即下载