docker安装部署FunASR

简介: 本指南详解FunASR在线语音识别服务的外网部署与内网迁移全流程:先在外网拉取Docker镜像、自动下载模型并启动服务(端口10095),验证成功后,将镜像和缓存模型打包导出;再于内网服务器导入镜像、解压模型、挂载运行,全程禁用SSL,支持热词与标点恢复,开箱即用。

先在外网环境走一边

sudo docker pull   registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-online-cpu-0.1.4

sudo docker run -p 10096:10095 -it --privileged=true  -v $PWD/funasr-runtime-resources/models:/workspace/models  registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-online-cpu-0.1.4

cd FunASR/runtime
nohup bash run_server_2pass.sh \
  --download-model-dir /workspace/models \
  --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx \
  --model-dir damo/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-onnx  \
  --online-model-dir damo/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-online-onnx  \
  --punc-dir damo/punc_ct-transformer_zh-cn-common-vad_realtime-vocab272727-onnx \
  --itn-dir thuduj12/fst_itn_zh \
  --hotword /workspace/models/hotwords.txt --certfile 0 > log.out 2>&1 &

--certfile 0,以禁用SSL

这里会运行一段时间,因为会自动下载所需模型!!!!!!!!!!!!!!!

然后查看看运行结果:

tail -f /workspace/FunASR/runtime/log.out
#出现 asr model init finished.listen on port:10095 表示成功

客户端测试下载:

curl -O https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/sample/funasr_samples.tar.gz

如下:
image.png

运行并配置客户端如下:
image.png

直接点击连接就可以开始识别了。
外网下到这里就结束了!!!!!

下面开始内网下部署

先准备相关资源,先在外网机器上执行:

1、将上边的相关镜像和模型先保存下来:
docker save -o funasr-runtime-sdk-online-cpu-0.1.4.tar registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-online-cpu-0.1.4
2、模型文件:
## winds 默认 在C:\Users\12345\.cache\modelscope\hub\models
## linux 默认在 /root/.cache/modelscope/hub/models
压缩打包后:modelscope.zip

在内网服务器上执行:

docker load -i funasr-runtime-sdk-online-cpu-0.1.4.tar
mkdir -p /home/asr/
unzip modelscope.zip

docker run -p 10096:10095 -it --privileged=true -v /home/asr/models:/workspace/models  registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-online-cpu-0.1.4

cd FunASR/runtime
nohup bash run_server_2pass.sh \
  --download-model-dir /workspace/models \
  --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx \
  --model-dir damo/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-onnx  \
  --online-model-dir damo/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-online-onnx  \
  --punc-dir damo/punc_ct-transformer_zh-cn-common-vad_realtime-vocab272727-onnx \
  --itn-dir thuduj12/fst_itn_zh \
  --hotword /workspace/models/hotwords.txt --certfile 0 > log.out 2>&1 &

--certfile 0,以禁用SSL

注意:这里的模型地址可以直接指定本地路劲避免再去联网拉取!!!
比如(/workspace/models)

然后查看看运行结果:

tail -f /workspace/FunASR/runtime/log.out
#出现 asr model init finished.listen on port:10095 表示成功

客户端测试下载:

curl -O https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/sample/funasr_samples.tar.gz

如下:
image.png

运行并配置客户端如下:
image.png

到这里内网下部署FunASR 已经结束,现在可以开始正常语音识别了。

先在外网运行一下能保证下载的模型是你运行所需的,不用自己到处自己去找对应的模型一个一个去下载,个人看法而已

相关实践学习
达摩院智能语音交互 - 声纹识别技术
声纹识别是基于每个发音人的发音器官构造不同,识别当前发音人的身份。按照任务具体分为两种: 声纹辨认:从说话人集合中判别出测试语音所属的说话人,为多选一的问题 声纹确认:判断测试语音是否由目标说话人所说,是二选一的问题(是或者不是) 按照应用具体分为两种: 文本相关:要求使用者重复指定的话语,通常包含与训练信息相同的文本(精度较高,适合当前应用模式) 文本无关:对使用者发音内容和语言没有要求,受信道环境影响比较大,精度不高 本课程主要介绍声纹识别的原型技术、系统架构及应用案例等。 讲师介绍: 郑斯奇,达摩院算法专家,毕业于美国哈佛大学,研究方向包括声纹识别、性别、年龄、语种识别等。致力于推动端侧声纹与个性化技术的研究和大规模应用。
目录
相关文章
|
自然语言处理 语音技术 开发者
开源上新|FunASR多语言离线文件转写软件包
开源上新|FunASR多语言离线文件转写软件包
|
语音技术 异构计算
FunASR项目支持实时语音识别
FunASR项目支持实时语音识别【1月更文挑战第7篇】
5328 1
|
达摩院 Java 大数据
达摩院FunASR实时语音转写服务软件包发布
达摩院FunASR实时语音转写服务软件包发布
3092 0
达摩院FunASR实时语音转写服务软件包发布
|
达摩院 语音技术 开发工具
达摩院FunASR离线文件转写SDK发布,完成工业落地“最后一公里”
达摩院FunASR离线文件转写SDK发布,完成工业落地“最后一公里”
2300 0
|
7月前
|
自然语言处理 前端开发 测试技术
魔搭社区+OpenVINO™ 加速部署 Qwen3-ASR 实战
通义千问新推Qwen3-ASR语音识别模型(1.7B/0.6B),支持52种语言及方言,具备高鲁棒性与流式长音频转写能力。联合魔搭社区与Intel® OpenVINO™,实现Intel平台极致加速部署,提供完整开源教程、Notebook示例及Gradio交互Demo。(239字)
3705 6
|
7月前
|
并行计算 API Docker
Docker+vLLM内网离线部署Qwen3 流程
本教程详解如何在A10四卡内网环境中,通过Docker+ vLLM离线部署Qwen3-32B/Qwen3-VL-30B-Instruct大模型。涵盖环境准备、镜像离线导入、模型下载、容器启动及参数调优,支持FP8/KV缓存/张量并行等高性能配置,助力安全高效私有化推理
7715 8
|
8月前
|
安全 Linux Docker
QWEN3 企业级 Docker 容器化部署指南
QWEN3是通义千问系列最新大模型,支持密集与混合专家架构,覆盖0.6B至235B参数,适用于多场景部署。具备思考与非思考双推理模式,强化复杂任务处理能力,支持100+语言及工具调用。本文档提供企业级Docker部署方案,涵盖环境配置、镜像拉取、安全加固、高可用设计与生产最佳实践,经Ubuntu/CentOS实测验证,端口8080、API路径/v1/chat/completions 100%可用,助力快速落地AI应用。
2482 5
|
9月前
|
Ubuntu Linux 测试技术
Linux系统离线安装Docker完整指南
本文详细介绍在Ubuntu 24等Linux系统中离线安装Docker的完整流程,适用于内网隔离环境。涵盖安装包下载、`docker.service`配置、安装与卸载脚本编写、权限设置、镜像测试及用户组配置,并包含docker-compose的离线部署方法,助力高效完成生产环境搭建。
10605 4
Linux系统离线安装Docker完整指南
|
Docker 容器
FunASR离线文件转写软件包3.0问题之Docker容器启动如何解决
FunASR离线文件转写软件包3.0问题之Docker容器启动如何解决
1513 0
|
人工智能 自然语言处理 人机交互
CosyVoice 2.0:阿里开源升级版语音生成大模型,支持多语言和跨语言语音合成,提升发音和音色等的准确性
CosyVoice 2.0 是阿里巴巴通义实验室推出的语音生成大模型升级版,通过有限标量量化技术和块感知因果流匹配模型,显著提升了发音准确性、音色一致性和音质,支持多语言和流式推理,适合实时语音合成场景。
11066 22
CosyVoice 2.0:阿里开源升级版语音生成大模型,支持多语言和跨语言语音合成,提升发音和音色等的准确性

热门文章

最新文章