想问通过server部署做推理,是否支持这个模型

简介: 【2月更文挑战第19天】想问通过server部署做推理,是否支持这个模型

想问通过server部署做推理,是否支持这个模型?如果支持的话,该怎样启动服务?
nohup bash run_server.sh \
--download-model-dir /workspace/models \
--vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx \
--model-dir damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn \
--punc-dir damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx \
--lm-dir damo/speech_ngram_lm_zh-cn-ai-wesp-fst \
--itn-dir thuduj12/fst_itn_zh \
--hotword /workspace/models/hotwords.txt > log.out 2>&1 &

请教下,按文档中把ASR模型换成了 damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn这个就会报错 The model: damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn has no revision: v1.2.1 valid are: [v0.0.2,v0.0.1]!

想问通过server部署做推理,是否支持modelscope-funasr的damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn这个模型?如果支持的话,该怎样启动服务?

根据您提供的信息,您正在尝试使用damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn模型进行推理。然而,报错信息显示该模型没有有效的版本(valid are: [v0.0.2,v0.0.1]),因此无法启动服务。

要解决这个问题,您可以尝试以下几个步骤:

  1. 检查模型路径:确保您提供的模型路径是正确的,并且包含有效的版本文件。您可以在ModelScope的官方仓库中查找正确的模型路径和版本信息。

  2. 更新模型版本:如果您确定模型路径正确,但版本无效,请尝试使用可用的版本之一。您可以从ModelScope的官方仓库中获取其他可用版本的模型文件,并将其替换为当前使用的模型文件。

  3. 检查依赖项:确保您的服务器上安装了所有必要的依赖项,包括所需的软件库和工具。您可以查阅ModelScope的文档或相关资源,以获取有关所需依赖项的详细信息。

一旦您解决了上述问题并成功加载了有效的模型版本,您可以按照以下步骤启动服务:

nohup bash run_server.sh \
--download-model-dir /workspace/models 
--vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx 
--model-dir damo/speech_paraformer-large-vad-punc-spk_asr_nat-zh-cn 
--punc-dir damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx 
--lm-dir damo/speech_ngram_lm_zh-cn-ai-wesp-fst 
--itn-dir thuduj12/fst_itn_zh 
--hotword /workspace/models/hotwords.txt > log.out 2>&1 &

请注意,上述命令中的路径和参数可能需要根据您的实际情况进行调整。确保将路径替换为您实际使用的路径,并根据需要调整其他参数。

目录
相关文章
|
存储 芯片 iOS开发
苹果M1芯片上运行Stable Diffusion,生成图片只需15秒,几步搞定
苹果M1芯片上运行Stable Diffusion,生成图片只需15秒,几步搞定
2039 0
|
前端开发 CDN
Nuxt.js 分页获取数据(及更新子组件数据、不刷新页面,异步请求追加数据)
Nuxt.js 分页获取数据(及更新子组件数据、不刷新页面,异步请求追加数据)
800 0
|
3月前
|
人工智能 自然语言处理 安全
MCP化:从特征提炼到封装实践
MCP作为连接大模型与外部世界的桥梁,已悄然重塑开发者生态。它不是简单的API包装,而是标准化协议,让服务“AI-ready”,从而释放代理的潜力。本文将深度剖析适合MCP化的服务特征、封装过程中的核心技巧,以及如何定义一个优秀的MCP服务器,并通过业界标杆案例剖析其实践路径。
343 12
|
11月前
|
机器学习/深度学习 人工智能 编解码
StereoCrafter:腾讯开源将任意2D视频转换为立体3D视频的框架,适用于Apple Vision Pro等多种显示设备
StereoCrafter 是腾讯开源的框架,能够将单目2D视频转换为高保真度的立体3D视频,适用于多种显示设备。
819 8
StereoCrafter:腾讯开源将任意2D视频转换为立体3D视频的框架,适用于Apple Vision Pro等多种显示设备
|
安全 Shell Linux
【Shell 命令集合 系统管理 】Linux 以超级用户(root)的身份执行特权命令 sudo命令 使用指南
【Shell 命令集合 系统管理 】Linux 以超级用户(root)的身份执行特权命令 sudo命令 使用指南
598 1
|
算法 NoSQL IDE
C语言性能优化:代码优化技巧与工具。
C语言性能优化:代码优化技巧与工具。
|
10月前
|
计算机视觉
RT-DETR改进策略【损失函数篇】| 利用MPDIoU,加强边界框回归的准确性
RT-DETR改进策略【损失函数篇】| 利用MPDIoU,加强边界框回归的准确性
374 2
|
存储 算法 安全
详细解读CA认证原理以及实现(上)
详细解读CA认证原理以及实现(上)
329 1
|
开发者
【经典案例】使用HAL库配置STM32F407的SPI外设
在嵌入式系统开发中,STM32F407是一款广泛应用的微控制器,而SPI(Serial Peripheral Interface)是一种常用的通信接口。本文将详细介绍如何使用STM32的硬件抽象层(HAL)库配置STM32F407的SPI外设,并提供完整的代码示例。
1947 1
|
缓存 NoSQL Java
Spring Boot整合Redis缓存的最佳实践
Spring Boot整合Redis缓存的最佳实践