近来工作，试图把Pytorch用TensorRT运行。折腾了半天，没有完成。github中的转换代码，只能处理pytorch 0.2.0的功能（也明确表示不维护了）。和同事一起处理了很多例外，还是没有通过。吾以为，实际上即使勉强过了，能不能跑也是问题。
后来有高手建议，先转换为ONNX，再转换为TensorRT。这个思路基本可行。
是不是这样就万事大吉？当然不是，还是有严重问题要解决的。这只是个思路。
Pytorch/Caffe可以先转换为ONNX，再转换为TensorRT
2021-12-02
223
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
Pytorch/Caffe可以先转换为ONNX，再转换为TensorRT
目录
相关文章
|
1月前
|
机器学习/深度学习
并行计算
PyTorch
TensorRT部署系列 | 如何将模型从 PyTorch 转换为 TensorRT 并加速推理？
TensorRT部署系列 | 如何将模型从 PyTorch 转换为 TensorRT 并加速推理？
303
0
0
|
机器学习/深度学习
缓存
PyTorch
PyTorch 2.0 推理速度测试：与 TensorRT 、ONNX Runtime 进行对比
PyTorch 2.0 于 2022 年 12 月上旬在 NeurIPS 2022 上发布，它新增的 torch.compile 组件引起了广泛关注，因为该组件声称比 PyTorch 的先前版本带来更大的计算速度提升。
731
0
0
|
1月前
|
并行计算
Ubuntu
PyTorch
|
1月前
|
机器学习/深度学习
PyTorch
TensorFlow
|
1月前
|
机器学习/深度学习
并行计算
PyTorch
使用 PyTorch、ONNX 和 TensorRT 将视觉 Transformer 预测速度提升 9 倍
使用 PyTorch、ONNX 和 TensorRT 将视觉 Transformer 预测速度提升 9 倍
260
1
1
|
11月前
|
机器学习/深度学习
算法
PyTorch
|
机器学习/深度学习
人工智能
算法
部署教程 | ResNet原理+PyTorch复现+ONNX+TensorRT int8量化部署
部署教程 | ResNet原理+PyTorch复现+ONNX+TensorRT int8量化部署
255
0
0
|
机器学习/深度学习
存储
人工智能
TensorFlow？PyTorch？Paddle？AI工具库生态之争：ONNX将一统天下
AI诸多工具库工具库之间的切换，是一件耗时耗力的麻烦事。ONNX 即应运而生，使不同人工智能框架（如PyTorch、TensorRT、MXNet）可以采用相同格式存储模
2247
1
1
|
PyTorch
算法框架/工具
Python
|
数据可视化
PyTorch
算法框架/工具
热门文章
最新文章
1
PyTorch与NLP：自然语言处理的深度学习实战
2
TensorFlow与PyTorch框架的深入对比：特性、优势与应用场景
3
【Python机器学习专栏】PyTorch在深度学习中的应用
4
【pytorch框架】对模型知识的基本了解
5
【Pytorch 安装TensorboardX及使用
6
PyTorch 小课堂！带你解析数据处理全流程（二）
7
深度学习实战（十）：使用 PyTorch 进行 3D 医学图像分割
8
GitHub深度学习框架榜单：PyTorch快速增长(2/11-4/12)
9
PyTorch宣布支持苹果M1芯片GPU加速：训练快6倍，推理提升21倍
10
基于Pytorch运行中出现RuntimeError: Not compiled with CUDA support此类错误解决方案
1
大模型中常用的注意力机制GQA详解以及Pytorch代码实现
333
2
【单点知识】基于实例详解PyTorch中的DataLoader类
280
3
【单点知识】基于实例讲解PyTorch中的transforms类
41
4
【单点知识】基于实例讲解PyTorch中的ImageFolder类
39
5
【PyTorch实战演练】深入剖析MTCNN(多任务级联卷积神经网络)并使用30行代码实现人脸识别
231
6
【PyTorch实战演练】Fast R-CNN中的RoI(Region of Interest)池化详解
71
7
RPN(Region Proposal Networks)候选区域网络算法解析（附PyTorch代码）
708
8
【PyTorch实战演练】基于全连接网络构建RNN并生成人名
30
9
【PyTorch实战演练】基于AlexNet的预训练模型介绍
152
10
【PyTorch实战演练】AlexNet网络模型构建并使用Cifar10数据集进行批量训练（附代码）
258