请问用TensorRT扩展实现RetinaNet的后处理部分时如何编译Custom Operator

已解决

请问用TensorRT扩展实现RetinaNet的后处理部分时如何编译Custom Operators?

展开
收起
felix@ 2023-01-29 13:11:26 2048 分享 版权
2 条回答
写回答
取消 提交回答
  • 今天也要加油吖~
    采纳回答

    您好,有三种编译Custom Operators的方式:Building with CMake、Building with JIT Compilation及Building with Setuptools。这三种编译方式适用于不同场景,您可以根据自己的需求进行选择。

    2023-01-29 13:13:16
    赞同 1 展开评论
    1. 首先,需要安装TensorRT的开发环境,包括CUDA、CUDNN、TensorRT等。

    2. 然后,需要编写RetinaNet的后处理部分的Custom Operator,并将其编译成可以在TensorRT中使用的库文件。

    3. 最后,需要将Custom Operator库文件加载到TensorRT中,并将其与RetinaNet的后处理部分进行集成。

    2023-01-29 15:50:28
    赞同 2 展开评论

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

还有其他疑问?
咨询AI助理