GPT-SoVits的部署

前言

最近终于有时间做一直想做的tts服务器项目了,暂时现在本地部署一下,测试下效果,之后会部署在云GPU服务器上,提供API服务。
这篇文章就用来整理一下部署的过程,希望能给读者一点参考。

环境准备

本次部署在Ubuntu24.04系统上进行,在官方github仓库可以看到快速启动的部署指令:

1
2
3
conda create -n GPTSoVits python=3.10
conda activate GPTSoVits
bash install.sh --device <CU126|CU128|ROCM|CPU> --source <HF|HF-Mirror|ModelScope> [--download-uvr5]

按照这个指令,首先创建了一个新的conda环境,安装了python3.10,然后运行安装脚本,选择了对应的设备和模型源,等待安装完成。本机在RTX5060平台安装,选择了CU128和HF-Mirror,安装过程大约花了20分钟左右,期间会下载模型文件和安装依赖包。注意到经常容易出现网络连接问题,必要依赖可以手动下载,然后在脚本中跳过。
在实际依赖安装过程中,我的apt源中有一个过期仓库导致更新堵塞,还一直以为是网络问题,直到后来修复之后才正常下载成功。
install.sh会在虚拟环境中安装必要的python依赖和预编译模型,是启动程序必要的操作,也可以根据官方教程手动安装模型到正确目录。
暂未测试其他安装方法或是docker部署,过程中出现了一点点小问题,后续部署成功或许会有别的文章。

启动测试

一定要注意!!官方install脚本安装的gradio版本有点落后,会报传参错误,需要手动升级gradio和gradio-client到最新版本,才能正常启动。

1
pip install --upgrade gradio gradio-client

升级完成后应该就可以使用以下指令启动了:

1
2
3
python webui.py
# 或者指定在公网开放使用--share
python webui.py --share

然后就可以浏览器访问自动打开的链接进行语音模型训练和推理了,后续会使用提供的推理接口进行API服务的搭建,提供在线的语音合成服务。请期待后续的文章!