ONNX转换NCNN

简介: ONNX转换NCNN

ncnn编译依赖OpenCV和protobuf

一、安装OnenCV

下载 Releases · opencv/opencv · GitHub

OpenCV 4.5.4为例,下载Source code (zip)

##源码编译
unzip opencv-4.5.4.zip
cd opencv-4.5.4
mkdir build
cd build
cmake -D CMAKE_BUILD_TYPE=RELEASE -D CMAKE_INSTALL_PREFIX=/usr/local ..
make -j8
sudo make install
sudo ldconfig

二、安装protobuf

下载Releases · protocolbuffers/protobuf · GitHub

3.19.1为例

unzip protobuf-all-3.19.1.zip
cd protobuf-all-3.19.1
./configure --prefix=/usr/local
make -j4
sudo make install
sudo ldconfig

三、安装NCNN

1、编译NCNN

git clone https://github.com/Tencent/ncnn.git
cd ncnn
mkdir build 
cd build
cmake ..
make
make install

2.ONNX转换NCNN

ncnn编译完后,在build/tools/onnx里会生成个可执行文件onnx2ncnn

./onnx2ncnn mobilenetv2.onnx mobilenetv2.param mobilenetv2.bin
相关文章
|
机器学习/深度学习 缓存 PyTorch
PyTorch 2.0 推理速度测试:与 TensorRT 、ONNX Runtime 进行对比
PyTorch 2.0 于 2022 年 12 月上旬在 NeurIPS 2022 上发布,它新增的 torch.compile 组件引起了广泛关注,因为该组件声称比 PyTorch 的先前版本带来更大的计算速度提升。
873 0
|
3月前
|
机器学习/深度学习 TensorFlow 算法框架/工具
深度学习之格式转换笔记(三):keras(.hdf5)模型转TensorFlow(.pb) 转TensorRT(.uff)格式
将Keras训练好的.hdf5模型转换为TensorFlow的.pb模型,然后再转换为TensorRT支持的.uff格式,并提供了转换代码和测试步骤。
114 3
深度学习之格式转换笔记(三):keras(.hdf5)模型转TensorFlow(.pb) 转TensorRT(.uff)格式
|
3月前
|
机器学习/深度学习 PyTorch 算法框架/工具
深度学习之格式转换笔记(一):模型文件pt转onnx转tensorrt格式实操成功
关于如何将深度学习模型从PyTorch的.pt格式转换为ONNX格式,然后再转换为TensorRT格式的实操指南。
300 0
深度学习之格式转换笔记(一):模型文件pt转onnx转tensorrt格式实操成功
|
3月前
|
机器学习/深度学习 移动开发 TensorFlow
深度学习之格式转换笔记(四):Keras(.h5)模型转化为TensorFlow(.pb)模型
本文介绍了如何使用Python脚本将Keras模型转换为TensorFlow的.pb格式模型,包括加载模型、重命名输出节点和量化等步骤,以便在TensorFlow中进行部署和推理。
150 0
|
4月前
|
机器学习/深度学习 人工智能 PyTorch
深度学习领域中pytorch、onnx和ncnn的关系
PyTorch、ONNX 和 NCNN 是深度学习领域中的三个重要工具或框架,它们在模型开发、转换和部署过程中扮演着不同但相互关联的角色。
267 12
|
6月前
|
TensorFlow 算法框架/工具 C++
构建NLP 开发问题之如何将模型导出为 ONNX、TensorRT 或 Tensorflow 格式以便部署
构建NLP 开发问题之如何将模型导出为 ONNX、TensorRT 或 Tensorflow 格式以便部署
|
8月前
|
并行计算 Ubuntu PyTorch
一文看懂pytorch转换ONNX再转换TenserRT
一文看懂pytorch转换ONNX再转换TenserRT
160 3
|
PyTorch 开发工具 算法框架/工具
yolo系列的ONNX部署(C++)【适用于v4\v5\v5-6.1\v7】
yolo系列的ONNX部署(C++)【适用于v4\v5\v5-6.1\v7】
1433 0
yolo系列的ONNX部署(C++)【适用于v4\v5\v5-6.1\v7】
|
机器学习/深度学习 存储 PyTorch
Huggingface:导出transformers模型到onnx
上一篇的初体验之后,本篇我们继续探索,将transformers模型导出到onnx。这里主要参考huggingface的官方文档:https://huggingface.co/docs/transformers/v4.20.1/en/serialization#exporting-a-model-to-onnx。
1293 0
|
机器学习/深度学习 算法 PyTorch
pytorch模型转ONNX、并进行比较推理
pytorch模型转ONNX、并进行比较推理
790 0

热门文章

最新文章