苹果AppleMacOs最新Sonoma系统本地训练和推理GPT-SoVITS模型实践

简介: GPT-SoVITS是少有的可以在MacOs系统下训练和推理的TTS项目,虽然在效率上没有办法和N卡设备相提并论,但终归是开发者在MacOs系统构建基于M系列芯片AI生态的第一步。

GPT-SoVITS教程_苹果MacOs系统本地训练和推理GPT-SoVITS模型整合包,Jaime-封面.jpg

GPT-SoVITS是少有的可以在MacOs系统下训练和推理的TTS项目,虽然在效率上没有办法和N卡设备相提并论,但终归是开发者在MacOs系统构建基于M系列芯片AI生态的第一步。

环境搭建

首先要确保本地环境已经安装好版本大于6.1的FFMPEG软件:

(base) ➜  ~ ffmpeg -version  
ffmpeg version 6.1.1 Copyright (c) 2000-2023 the FFmpeg developers  
built with Apple clang version 15.0.0 (clang-1500.1.0.2.5)  
configuration: --prefix=/opt/homebrew/Cellar/ffmpeg/6.1.1_3 --enable-shared --enable-pthreads --enable-version3 --cc=clang --host-cflags= --host-ldflags='-Wl,-ld_classic' --enable-ffplay --enable-gnutls --enable-gpl --enable-libaom --enable-libaribb24 --enable-libbluray --enable-libdav1d --enable-libharfbuzz --enable-libjxl --enable-libmp3lame --enable-libopus --enable-librav1e --enable-librist --enable-librubberband --enable-libsnappy --enable-libsrt --enable-libssh --enable-libsvtav1 --enable-libtesseract --enable-libtheora --enable-libvidstab --enable-libvmaf --enable-libvorbis --enable-libvpx --enable-libwebp --enable-libx264 --enable-libx265 --enable-libxml2 --enable-libxvid --enable-lzma --enable-libfontconfig --enable-libfreetype --enable-frei0r --enable-libass --enable-libopencore-amrnb --enable-libopencore-amrwb --enable-libopenjpeg --enable-libopenvino --enable-libspeex --enable-libsoxr --enable-libzmq --enable-libzimg --disable-libjack --disable-indev=jack --enable-videotoolbox --enable-audiotoolbox --enable-neon  
libavutil      58. 29.100 / 58. 29.100  
libavcodec     60. 31.102 / 60. 31.102  
libavformat    60. 16.100 / 60. 16.100  
libavdevice    60.  3.100 / 60.  3.100  
libavfilter     9. 12.100 /  9. 12.100  
libswscale      7.  5.100 /  7.  5.100  
libswresample   4. 12.100 /  4. 12.100  
libpostproc    57.  3.100 / 57.  3.100

如果没有安装,可以先升级HomeBrew,随后通过brew命令来安装FFMPEG:

brew cleanup && brew update

安装ffmpeg

brew install ffmpeg

随后需要确保本地已经安装好了conda环境:

(base) ➜  ~ conda info  

     active environment : base  
    active env location : /Users/liuyue/anaconda3  
            shell level : 1  
       user config file : /Users/liuyue/.condarc  
 populated config files : /Users/liuyue/.condarc  
          conda version : 23.7.4  
    conda-build version : 3.26.1  
         python version : 3.11.5.final.0  
       virtual packages : __archspec=1=arm64  
                          __osx=14.3=0  
                          __unix=0=0  
       base environment : /Users/liuyue/anaconda3  (writable)  
      conda av data dir : /Users/liuyue/anaconda3/etc/conda  
  conda av metadata url : None  
           channel URLs : https://repo.anaconda.com/pkgs/main/osx-arm64  
                          https://repo.anaconda.com/pkgs/main/noarch  
                          https://repo.anaconda.com/pkgs/r/osx-arm64  
                          https://repo.anaconda.com/pkgs/r/noarch  
          package cache : /Users/liuyue/anaconda3/pkgs  
                          /Users/liuyue/.conda/pkgs  
       envs directories : /Users/liuyue/anaconda3/envs  
                          /Users/liuyue/.conda/envs  
               platform : osx-arm64  
             user-agent : conda/23.7.4 requests/2.31.0 CPython/3.11.5 Darwin/23.3.0 OSX/14.3 aau/0.4.2 s/XQcGHFltC5oP5DK5UVaTDA e/E37crlCLfv4OPFn-Q0QPJw  
                UID:GID : 502:20  
             netrc file : None  
           offline mode : False

如果没有安装过conda,推荐去anaconda官网下载安装包:

https://www.anaconda.com

接着通过conda命令创建并激活基于3.9的Python开发虚拟环境:

conda create -n GPTSoVits python=3.9  
conda activate GPTSoVits

安装依赖以及Mac版本的Torch

克隆GPT-SoVits项目:

https://github.com/RVC-Boss/GPT-SoVITS.git

进入项目:

cd GPT-SoVITS

安装基础依赖:

pip3 install -r requirements.txt

安装基于Mac的Pytorch:

pip3 install --pre torch torchaudio --index-url https://download.pytorch.org/whl/nightly/cpu

随后检查一下mps是否可用:

(base) ➜  ~ conda activate GPTSoVits  
(GPTSoVits) ➜  ~ python  
Python 3.9.18 (main, Sep 11 2023, 08:25:10)   
[Clang 14.0.6 ] :: Anaconda, Inc. on darwin  
Type "help", "copyright", "credits" or "license" for more information.  
>>> import torch  
>>> torch.backends.mps.is_available()   
True  
>>>

如果没有问题,那么直接在项目目录运行命令进入webui即可:

python3 webui.py

到底用CPU还是用MPS

在推理环节上,有个细节非常值得玩味,那就是,到底是MPS效率更高,还是直接用CPU效率更高,理论上当然是MPS了,但其实未必,我们可以修改项目中的config.py文件来强行指定api推理设备:

if torch.cuda.is_available():  
    infer_device = "cuda"  
elif torch.backends.mps.is_available():  
    infer_device = "mps"  
else:  
    infer_device = "cpu"

或者修改inference_webui.py文件来指定页面推理设备:

if torch.cuda.is_available():  
    device = "cuda"  
elif torch.backends.mps.is_available():  
    device = "mps"  
else:  
    device = "cpu"

基于cpu的推理效率:

CPU推理时Python全程内存占用3GB,内存曲线全程绿色,推理速度长时间保持55it/s。

作为对比,使用MPS进行推理,GPU推理时,Python进程内存占用持续稳步上升至14GB,推理速度最高30it/s,偶发1-2it/s。

但实际上,在Pytorch官方的帖子中:

https://github.com/pytorch/pytorch/issues/111517

提到了解决方案,即修改cmakes的编译方式。

修改后推理对比:

cpu推理:  

['zh']  
 19%|███████▍                                | 280/1500 [00:12<00:47, 25.55it/s]T2S Decoding EOS [102 -> 382]  
 19%|███████▍                                | 280/1500 [00:12<00:56, 21.54it/s]

gpu推理:  

 21%|████████▌                               | 322/1500 [00:08<00:32, 36.46it/s]T2S Decoding EOS [102 -> 426]  
 22%|████████▋                               | 324/1500 [00:08<00:29, 39.26it/s]

但MPS方式确实有内存泄露的现象。

相关文章
|
29天前
|
人工智能 自然语言处理 物联网
Predibase发布25个LoRA,超越GPT-4的Mistral模型
【2月更文挑战第24天】Predibase发布25个LoRA,超越GPT-4的Mistral模型
24 2
Predibase发布25个LoRA,超越GPT-4的Mistral模型
|
2月前
|
人工智能 搜索推荐 机器人
微软 Copilot 推出多个定制 GPT 模型,包括健身教练、度假计划师等
【2月更文挑战第9天】微软 Copilot 推出多个定制 GPT 模型,包括健身教练、度假计划师等
34 2
微软 Copilot 推出多个定制 GPT 模型,包括健身教练、度假计划师等
|
23天前
GPT-4 vs. ChatGPT:19个弱项问题(多步逻辑推理、概念间接关联)的横向对比
GPT-4在逻辑推理和概念关联上的准确率提升至100%,超越ChatGPT,其智力可能超过95%的人。在逻辑和多模态理解上有显著进步,但数数和某些逻辑推理仍是挑战。擅长处理成本计算和复杂情境,能建立概念间的间接关联,如遗忘与老龄化的联系。在数学和物理领域表现出色,但处理复杂间接关系和抽象概念时仍有局限。总体而言,GPT-4展现出超越人类智能的潜力,但仍需面对认知任务的挑战。![GPT-4进步示意](https://developer.aliyun.com/profile/oesouji3mdrog/highScore_1?spm=a2c6h.132)查看GPT-5教程,可访问我的个人主页介绍。
30 0
GPT-4 vs. ChatGPT:19个弱项问题(多步逻辑推理、概念间接关联)的横向对比
|
24天前
|
人工智能 自然语言处理 API
全球第一AI大模型易主,Claude 3超越GPT-4,它的推理能力有多强
全球第一AI大模型易主,Claude 3超越GPT-4,它的推理能力有多强
|
24天前
|
人工智能 自然语言处理 搜索推荐
GPT-5,将在高级推理功能上实现重大进步
OpenAI的GPT-5预计带来巨大性能飞跃,实现高级推理的质变,推动AI在金融、医疗等领域广泛应用。奥特曼专注构建通用人工智能,忽略区块链等其他领域。GPT-5可能开启多模态AI新篇章,促进新商业模式发展,但也加剧数据需求、就业市场变化及伦理监管挑战。其在科学研究中的潜力,如加速核聚变研究,也备受期待。
23 1
|
25天前
|
编解码 人工智能 语音技术
GPT-SoVits:刚上线两天就获得了1.4k star的开源声音克隆项目!效果炸裂的跨语言音色克隆模型!
GPT-SoVits:刚上线两天就获得了1.4k star的开源声音克隆项目!效果炸裂的跨语言音色克隆模型!
|
1月前
|
人工智能 自然语言处理 测试技术
四大模型横评,GPT-4原文复制最严重
【2月更文挑战第19天】四大模型横评,GPT-4原文复制最严重
34 1
四大模型横评,GPT-4原文复制最严重
|
1月前
|
人工智能 安全 测试技术
Infection-2.5登场,训练计算量仅40%、性能直逼GPT-4!
【2月更文挑战第18天】Infection-2.5登场,训练计算量仅40%、性能直逼GPT-4!
28 3
Infection-2.5登场,训练计算量仅40%、性能直逼GPT-4!
|
2月前
|
人工智能 自然语言处理 测试技术
Mistral发布旗舰模型Mistral Large,效果仅次于GPT-4
【2月更文挑战第8天】Mistral发布旗舰模型Mistral Large,效果仅次于GPT-4
44 7
Mistral发布旗舰模型Mistral Large,效果仅次于GPT-4
|
4月前
|
人工智能 搜索推荐 安全
GPT Prompt编写的艺术:如何提高AI模型的表现力
GPT Prompt编写的艺术:如何提高AI模型的表现力
144 0