ONNX转换NCNN

简介: ONNX转换NCNN

ncnn编译依赖OpenCV和protobuf

一、安装OnenCV

下载 Releases · opencv/opencv · GitHub

OpenCV 4.5.4为例,下载Source code (zip)

##源码编译
unzip opencv-4.5.4.zip
cd opencv-4.5.4
mkdir build
cd build
cmake -D CMAKE_BUILD_TYPE=RELEASE -D CMAKE_INSTALL_PREFIX=/usr/local ..
make -j8
sudo make install
sudo ldconfig

二、安装protobuf

下载Releases · protocolbuffers/protobuf · GitHub

3.19.1为例

unzip protobuf-all-3.19.1.zip
cd protobuf-all-3.19.1
./configure --prefix=/usr/local
make -j4
sudo make install
sudo ldconfig

三、安装NCNN

1、编译NCNN

git clone https://github.com/Tencent/ncnn.git
cd ncnn
mkdir build 
cd build
cmake ..
make
make install

2.ONNX转换NCNN

ncnn编译完后,在build/tools/onnx里会生成个可执行文件onnx2ncnn

./onnx2ncnn mobilenetv2.onnx mobilenetv2.param mobilenetv2.bin
相关文章
|
机器学习/深度学习 缓存 PyTorch
PyTorch 2.0 推理速度测试:与 TensorRT 、ONNX Runtime 进行对比
PyTorch 2.0 于 2022 年 12 月上旬在 NeurIPS 2022 上发布,它新增的 torch.compile 组件引起了广泛关注,因为该组件声称比 PyTorch 的先前版本带来更大的计算速度提升。
844 0
|
1月前
|
机器学习/深度学习 TensorFlow 算法框架/工具
深度学习之格式转换笔记(三):keras(.hdf5)模型转TensorFlow(.pb) 转TensorRT(.uff)格式
将Keras训练好的.hdf5模型转换为TensorFlow的.pb模型,然后再转换为TensorRT支持的.uff格式,并提供了转换代码和测试步骤。
83 3
深度学习之格式转换笔记(三):keras(.hdf5)模型转TensorFlow(.pb) 转TensorRT(.uff)格式
|
1月前
|
机器学习/深度学习 PyTorch 算法框架/工具
深度学习之格式转换笔记(一):模型文件pt转onnx转tensorrt格式实操成功
关于如何将深度学习模型从PyTorch的.pt格式转换为ONNX格式,然后再转换为TensorRT格式的实操指南。
96 0
深度学习之格式转换笔记(一):模型文件pt转onnx转tensorrt格式实操成功
|
4月前
|
TensorFlow 算法框架/工具 C++
构建NLP 开发问题之如何将模型导出为 ONNX、TensorRT 或 Tensorflow 格式以便部署
构建NLP 开发问题之如何将模型导出为 ONNX、TensorRT 或 Tensorflow 格式以便部署
|
6月前
|
并行计算 Ubuntu PyTorch
一文看懂pytorch转换ONNX再转换TenserRT
一文看懂pytorch转换ONNX再转换TenserRT
117 3
|
6月前
要将ModelScope的应用检测模型转换为ONNX格式或RKNN格式
要将ModelScope的应用检测模型转换为ONNX格式或RKNN格式
380 1
|
物联网 PyTorch 算法框架/工具
ModelScope中,自己拉起的训练,pytorch_lora_weights.bin 这个文件怎么转成sd的可直接导入的lora文件呢?
ModelScope中,自己拉起的训练,pytorch_lora_weights.bin 这个文件怎么转成sd的可直接导入的lora文件呢?
328 1
|
PyTorch 开发工具 算法框架/工具
yolo系列的ONNX部署(C++)【适用于v4\v5\v5-6.1\v7】
yolo系列的ONNX部署(C++)【适用于v4\v5\v5-6.1\v7】
1388 0
yolo系列的ONNX部署(C++)【适用于v4\v5\v5-6.1\v7】
|
机器学习/深度学习 存储 PyTorch
Huggingface:导出transformers模型到onnx
上一篇的初体验之后,本篇我们继续探索,将transformers模型导出到onnx。这里主要参考huggingface的官方文档:https://huggingface.co/docs/transformers/v4.20.1/en/serialization#exporting-a-model-to-onnx。
1228 0
|
开发者
onnx 模型修改
已经生成的onnx 模型删除后处理sigmoid mul等层
336 0