如何转换onnx产出的向量到原始模型
模型 damo/nlp_raner_named-entity-recognition_chinese-base-ecom-50cls
输入参数 '摇滚狗涂鸦拔印宽松牛仔裤 情侣款'
原始输出结果 {'output': [{'type': '品牌', 'start': 0, 'end': 3, 'span': '摇滚狗'}......
onnx输出结果
[array([[[ 2.9208372 , -0.23975375, -0.5824402 , ..., -1.1959234 ,
-0.82692915, -1.2046539 ],
[ 3.1562865 , -0.90397376, -1.0944233 , ..., -1.6318094 ,
-1.3949817 , -1.8911545 ],
[ 2.953881 , -0.669761 , -0.46499297, ..., -1.4909486 ,
-1.1067923 , -1.6755843 ],
...,
[ 0. , 0. , 0. , ..., 0. ,
0. , 0. ],
[ 0. , 0. , 0. , ..., 0. ,
0. , 0. ],
[ 0. , 0. , 0. , ..., 0. ,
0. , 0. ]]], dtype=float32)]
您可以使用以下方式将导出的 ONNX 模型运行结果向量转为 ModelScope 模型运行结果:
在 ModelScope 中创建一个模型运行结果。
在模型运行结果的输入中,添加一个名为 "onnx_model_result_vector" 的向量变量。
将向量变量的值设置为导出的 ONNX 模型运行结果向量。
运行模型运行结果。
您也可以使用 ModelScope Python API 来完成这些操作。具体用法如下:
from modelscope.core.models.model_result import ModelResult
model_result = ModelResult()
onnx_model_result_vector = model_result.add_variable("onnx_model_result_vector",
vector_size=10)
onnx_model_result_vector.value = [1, 2, 3, 4, 5, 6, 7, 8, 9, 10]
model_result.run()
运行结果将显示在 ModelScope 的 Web 界面中。
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352