想问通过server部署做推理,是否支持这个模型?如果支持的话,该怎样启动服务?

nohup bash run_server.sh \
--download-model-dir /workspace/models \
--vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx \
--model-dir damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn \
--punc-dir damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx \
--lm-dir damo/speech_ngram_lm_zh-cn-ai-wesp-fst \
--itn-dir thuduj12/fst_itn_zh \
--hotword /workspace/models/hotwords.txt > log.out 2>&1 &

请教下,按文档中把ASR模型换成了 damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn这个就会报错 The model: damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn has no revision: v1.2.1 valid are: [v0.0.2,v0.0.1]!

想问通过server部署做推理,是否支持modelscope-funasr的damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn这个模型?如果支持的话,该怎样启动服务?

展开
收起
三分钟热度的鱼 2024-01-10 16:55:18 151 分享 版权
3 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    是的,modelscope-funasr支持damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn这个模型。您可以通过以下命令启动服务:

    nohup bash run_server.sh \
    --download-model-dir /workspace/models \
    --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx \
    --model-dir damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn \
    --punc-dir damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx \
    --lm-dir damo/speech_ngram_lm_zh-cn-ai-wesp-fst \
    --itn-dir thuduj12/fst_itn_zh \
    --hotword /workspace/models/hotwords.txt > log.out 2>&1 &
    

    如果您遇到错误,请确保您的模型版本与服务器上可用的版本匹配。您可以查看模型文档以获取有关可用版本的信息。

    2024-01-13 14:25:26
    赞同 展开评论
  • 根据您提供的信息,您正在尝试使用damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn模型进行推理。然而,报错信息显示该模型没有有效的版本(valid are: [v0.0.2,v0.0.1]),因此无法启动服务。

    要解决这个问题,您可以尝试以下几个步骤:

    1. 检查模型路径:确保您提供的模型路径是正确的,并且包含有效的版本文件。您可以在ModelScope的官方仓库中查找正确的模型路径和版本信息。

    2. 更新模型版本:如果您确定模型路径正确,但版本无效,请尝试使用可用的版本之一。您可以从ModelScope的官方仓库中获取其他可用版本的模型文件,并将其替换为当前使用的模型文件。

    3. 检查依赖项:确保您的服务器上安装了所有必要的依赖项,包括所需的软件库和工具。您可以查阅ModelScope的文档或相关资源,以获取有关所需依赖项的详细信息。

    一旦您解决了上述问题并成功加载了有效的模型版本,您可以按照以下步骤启动服务:

    nohup bash run_server.sh \
    --download-model-dir /workspace/models 
    --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx 
    --model-dir damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn 
    --punc-dir damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx 
    --lm-dir damo/speech_ngram_lm_zh-cn-ai-wesp-fst 
    --itn-dir thuduj12/fst_itn_zh 
    --hotword /workspace/models/hotwords.txt > log.out 2>&1 &
    

    请注意,上述命令中的路径和参数可能需要根据您的实际情况进行调整。确保将路径替换为您实际使用的路径,并根据需要调整其他参数。

    2024-01-12 10:09:06
    赞同 展开评论
  • 不支持,且无支持计划。此回答整理自钉群“modelscope-funasr社区交流”

    2024-01-10 17:17:23
    赞同 展开评论

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

热门讨论

热门文章

还有其他疑问?
咨询AI助理