开发者社区 ModelScope模型即服务自然语言处理正文

modelscope-funasr中，请问这个问题该怎么解决呀？

展开

收起

提问的橘子 2024-04-22 14:21:52 127 版权

阿里云 AI 助理回答

在解决modelscope-funasr相关问题时，首先需要明确您遇到的具体问题是什么。以下是一些常见问题及其解决方案的详细说明，供您参考：

1. FunClip安装失败

如果您在安装modelscope-funasr中的FunClip时遇到问题，请按照以下步骤排查和解决：

安装步骤回顾

克隆代码仓库：

git clone https://github.com/alibaba-damo-academy/FunASR.git
cd FunASR

安装依赖包：
```
pip install -r requirements.txt
```
安装FunClip：
```
pip install funasr[clip]
```

验证安装是否成功：

python -c "import funasr.utils.cli_utils; funasr.utils.cli_utils.print_info()"

常见问题及解决方法

Python版本不兼容
确保您的Python版本为3.7或更高版本。如果版本过低，请升级Python：
```
python --version
# 如果版本低于3.7，请升级：
sudo apt-get install python3.8
```

依赖包冲突
如果安装过程中出现依赖冲突，建议使用虚拟环境隔离安装：

python -m venv funasr_env
source funasr_env/bin/activate
pip install -r requirements.txt
pip install funasr[clip]

PyTorch未正确安装
FunClip依赖于PyTorch，请确保已正确安装PyTorch。推荐使用官方命令安装：
```
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
```
验证失败
如果验证命令返回错误，请检查funasr模块是否正确导入，并确认安装路径无误。

2. 模型下载或加载失败

如果您在使用modelscope-funasr时遇到模型下载或加载失败的问题，请参考以下解决方案：

检查网络连接

确保您的网络可以正常访问ModelScope平台。如果网络受限，可以尝试配置代理或切换到稳定的网络环境。

检查磁盘空间

重要提示：模型文件较大，部署时需预留足够的磁盘空间（至少30GB）。如果磁盘空间不足，请清理不必要的文件或扩展磁盘容量。

检查模型ID

确认您使用的MODEL_ID是否正确。例如，qwen/Qwen1.5-4B-Chat是一个有效的模型ID。如果不确定模型ID，请参考ModelScope平台上的文档。

使用缓存

如果模型下载中断，可以尝试重新加载本地缓存的模型文件。默认缓存路径为~/.cache/modelscope/hub/。

3. 服务部署失败

如果您在部署modelscope-funasr服务时遇到问题，请参考以下步骤：

部署环境要求

GPU资源：确保您的ACK集群包含GPU节点，且显存不低于16GB。
驱动版本：建议使用525版本的NVIDIA驱动。可以通过标签指定驱动版本：
```
ack.aliyun.com/nvidia-driver-version:525.105.17
```

部署命令示例

使用Arena部署推理服务时，请确保命令参数正确：

arena serve custom \
-name=modelscope \
-version=v1 \
-gpus=1 \
-replicas=1 \
-restful-port=8000 \
-readiness-probe-action="tcpSocket" \
-readiness-probe-action-option="port: 8000" \
-readiness-probe-option="initialDelaySeconds: 30" \
-readiness-probe-option="periodSeconds: 30" \
-image=kube-ai-registry.cn-shanghai.cr.aliyuncs.com/kube-ai/quick-deploy-llm:v1 \
"MODEL_ID=qwen/Qwen1.5-4B-Chat python3 server.py"

常见问题及解决方法

容器启动失败
检查日志以定位问题：
```
kubectl logs <pod_name>
```
如果是镜像拉取失败，请确认镜像地址是否正确。
端口冲突
确保-restful-port指定的端口未被占用。如果冲突，请更换端口号。
就绪探针失败
调整readiness-probe-option参数，增加initialDelaySeconds和periodSeconds的值。

4. 调用服务失败

如果您在调用modelscope-funasr服务时遇到问题，请参考以下步骤：

调用方式

通过API接口调用
示例代码如下：

import requests
import json

service_url = 'YOUR_SERVICE_URL'
token = 'YOUR_SERVICE_TOKEN'

resp = requests.post(service_url,
                   headers={"Authorization": token},
                   data=json.dumps({"input": {"text": "Deploying ModelScope models on PAI-EAS is simple and easy to use"}}))

print(resp.text)