modelscope-funasr用ContextualParaformer推理就无效是什么原因?

modelscope-funasr speech_paraformer-large-contextual_asr_nat-zh-cn-16k-common-vocab8404模型的热词功能同一批wav数据用pipeline推理有效,用ContextualParaformer推理就无效是什么原因。win11+funasr0.8.4+modelscope1.9.5

1 热词有效

hotword_dict = {'hotword': '访谈 开始访谈'}
inference_pipeline = pipeline(
    task=Tasks.auto_speech_recognition,
    model="damo/speech_paraformer-large-contextual_asr_nat-zh-cn-16k-common-vocab8404",
    param_dict=hotword_dict)
funasr_result = inference_pipeline(audio_in=wav_path)

# 2 热词无效
model_dir = "damo/speech_paraformer-large-contextual_asr_nat-zh-cn-16k-common-vocab8404"
model = ContextualParaformer(model_dir, batch_size=1)
funasr_result = model(wav_path, "访谈 开始访谈")

补充细节:
win11+torch1.13.0+funasr0.8.4+modelscope1.9.5,同一批wav数据下:1、https://alibaba-damo-academy.github.io/FunASR/en/egs_modelscope/asr/TEMPLATE/README.html按这个链接的Paraformer-contextual Model示例热词效果较好,是pipeline的推理方式。2、https://github.com/alibaba-damo-academy/FunASR/blob/main/runtime/python/onnxruntime/demo_contextual_paraformer.py按这个链接的热词效果几乎没有,是用ContextualParaformer推理。
c11a76940e559b68dffddd99bbe9d5d0.png

展开
收起
嘟嘟嘟嘟嘟嘟 2023-12-20 02:27:49 94 分享 版权
1 条回答
写回答
取消 提交回答
  • 可以在导出onnx的时候把quantize关掉再试一下哈。此回答整理自钉群“modelscope-funasr社区交流”

    2023-12-20 09:23:03
    赞同 展开评论

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

还有其他疑问?
咨询AI助理