开发者社区> 问答> 正文

BladeDISC与TensorRT等厂商提供的推理优化工具形成良好的技术互补其主要差异性优势包括?

BladeDISC与TensorRT等厂商提供的推理优化工具形成良好的技术互补其主要差异性优势包括?

展开
收起
我也不知道取啥名字 2022-05-08 20:35:19 315 0
来自:阿里技术
1 条回答
写回答
取消 提交回答
  • 1、应对动态shape业务完备的动态shape语义支持; 2、基于compiler based的技术路径的模型泛化性在非标准模型上的性能优势; 3、更为灵活的部署模式选择,以插件形式支持前端框架的透明性优势。

    2022-05-08 23:34:47
    赞同 展开评论 打赏
问答地址:
来源圈子
更多
收录在圈子:
+ 订阅
问答排行榜
最热
最新

相关电子书

更多
PAI-ChatLearn 灵活易用大规模RLHF高训练框架 立即下载
端到端GPU性能在深度学学习场景下的应用实践 立即下载
大规模稀疏化模型技术介绍及实践 立即下载