开发者社区 问答 正文

BladeDISC与TensorRT等厂商提供的推理优化工具形成良好的技术互补其主要差异性优势包括?

BladeDISC与TensorRT等厂商提供的推理优化工具形成良好的技术互补其主要差异性优势包括?

展开
收起
我也不知道取啥名字 2022-05-08 20:35:19 350 分享 版权
来自: 阿里技术
1 条回答
写回答
取消 提交回答
  • 1、应对动态shape业务完备的动态shape语义支持; 2、基于compiler based的技术路径的模型泛化性在非标准模型上的性能优势; 3、更为灵活的部署模式选择,以插件形式支持前端框架的透明性优势。

    2022-05-08 23:34:47
    赞同 展开评论
问答地址: