MxNet模型导出ONNX模型
Open Neural Network Exchange (ONNX)为AI模型提供了一种开源的数据模型格式。它定义了一个可扩展的计算图模型，以及内置运算符和标准数据类型的定义。它可以作为各种AI模型之间进行转换的媒介，例如，市面上没有现成的Caffe模型到MxNet模型的转换工具，我们可以借助于ONNX，首先将Caffe转换为Onnx，然后再将Onnx转换为MxNet，更为神奇的是，这之间的转换过程不过丢失原有模型的精度。
在本教程中，我们将展示如何将MXNet模型保存为ONNX格式。MXNet-ONNX操作符的覆盖范围和特性定期更新。请访问 ONNX operator coverage以获取最新信息。在本教程中，我们将学习如何使用MXNet到ONNX的模型导出工具对预先训练的模型进行导出。
预备知识
要运行本教程，你需要安装以下python模块:
- MXNet >= 1.3.0。注意，经测试使用下面的命令进行安装MXNET可用：PIP INSTALL MXNET==1.4.0 --USER
- onnx。注意，经测试使用如下命令进行安装onnx可用：pip install onnx==1.2.1 --user
**注意：**MXNet-ONNX导入、导出工具遵循ONNX操作符集的第7版，该操作符集附带ONNX v1.2.1。
import mxnet as mx import numpy as np from mxnet.contrib import onnx as onnx_mxnet import logging logging.basicConfig(level=logging.INFO)
从MXNet Model Zoo下载一个模型
我们从MXNet Model Zoo.下载预训练的ResNet-18 ImageNet 模型。我们还将下载synset文件来匹配标签
# Download pre-trained resnet model - json and params by running following code. path='http://data.mxnet.io/models/imagenet/' [mx.test_utils.download(path+'resnet/18-layers/resnet-18-0000.params'), mx.test_utils.download(path+'resnet/18-layers/resnet-18-symbol.json'), mx.test_utils.download(path+'synset.txt')]
现在，我们已经在磁盘上下载了ResNet-18、params和synset文件。
MXNet到ONNX导出器API
让我们来描述MXNet的' export_model ' API。
help(onnx_mxnet.export_model) Help on function export_model in module mxnet.contrib.onnx.mx2onnx.export_model: export_model(sym, params, input_shape, input_type=<type 'numpy.float32'>, onnx_file_path=u'model.onnx', verbose=False) Exports the MXNet model file, passed as a parameter, into ONNX model. Accepts both symbol,parameter objects as well as json and params filepaths as input. Operator support and coverage - https://cwiki.apache.org/confluence/display/MXNET/MXNet-ONNX+Integration Parameters ---------- sym : str or symbol object Path to the json file or Symbol object params : str or symbol object Path to the params file or params dictionary. (Including both arg_params and aux_params) input_shape : List of tuple Input shape of the model e.g [(1,3,224,224)] input_type : data type Input data type e.g. np.float32 onnx_file_path : str Path where to save the generated onnx file verbose : Boolean If true will print logs of the model conversion Returns ------- onnx_file_path : str Onnx file path
' export_model ' API可以通过以下两种方式之一接受MXNet模型。
- MXNet sym, params对象:
- 如果我们正在训练一个模型，这是有用的。在训练结束时，我们只需要调用' export_model '函数，并提供sym和params对象作为输入和其他属性，以将模型保存为ONNX格式。
- MXNet导出的json和params文件:
- 如果我们有预先训练过的模型，并且希望将它们转换为ONNX格式，那么这是非常有用的。
由于我们已经下载了预训练的模型文件，我们将通过传递符号和params文件的路径来使用' export_model ' API。
如何使用MXNet到ONNXA导入、导出工具PI
我们将使用下载的预训练的模型文件(sym、params)并定义输入变量。
# 下载的输入符号和参数文件 sym = './resnet-18-symbol.json' params = './resnet-18-0000.params' # 标准Imagenet输入- 3通道，224*224 input_shape = (1,3,224,224) # 输出文件的路径 onnx_file = './mxnet_exported_resnet50.onnx'
我们已经定义了' export_model ' API所需的输入参数。现在，我们准备将MXNet模型转换为ONNX格式
# 调用导出模型API。它返回转换后的onnx模型的路径 converted_model_path = onnx_mxnet.export_model(sym, params, [input_shape], np.float32, onnx_file)
这个API返回转换后的模型的路径，您稍后可以使用该路径将模型导入其他框架。
检验ONNX模型的有效性
现在我们可以使用ONNX检查工具来检查转换后的ONNX模型的有效性。该工具将通过检查内容是否包含有效的protobuf来验证模型:
from onnx import checker import onnx # Load onnx model model_proto = onnx.load_model(converted_model_path) # Check if converted ONNX protobuf is valid checker.check_graph(model_proto.graph)
如果转换后的protobuf格式不符合ONNX proto规范，检查器将抛出错误，但在本例中成功通过。
该方法验证了导出模型原buf的有效性。现在，模型可以导入到其他框架中进行推理了!
