GPT-SoVits的部署
GPT-SoVits的部署
前言
最近终于有时间做一直想做的tts服务器项目了,暂时现在本地部署一下,测试下效果,之后会部署在云GPU服务器上,提供API服务。
这篇文章就用来整理一下部署的过程,希望能给读者一点参考。
环境准备
本次部署在Ubuntu24.04系统上进行,在官方github仓库可以看到快速启动的部署指令:
1 | conda create -n GPTSoVits python=3.10 |
按照这个指令,首先创建了一个新的conda环境,安装了python3.10,然后运行安装脚本,选择了对应的设备和模型源,等待安装完成。本机在RTX5060平台安装,选择了CU128和HF-Mirror,安装过程大约花了20分钟左右,期间会下载模型文件和安装依赖包。注意到经常容易出现网络连接问题,必要依赖可以手动下载,然后在脚本中跳过。
在实际依赖安装过程中,我的apt源中有一个过期仓库导致更新堵塞,还一直以为是网络问题,直到后来修复之后才正常下载成功。
install.sh会在虚拟环境中安装必要的python依赖和预编译模型,是启动程序必要的操作,也可以根据官方教程手动安装模型到正确目录。
暂未测试其他安装方法或是docker部署,过程中出现了一点点小问题,后续部署成功或许会有别的文章。
启动测试
一定要注意!!官方install脚本安装的gradio版本有点落后,会报传参错误,需要手动升级gradio和gradio-client到最新版本,才能正常启动。
1 | pip install --upgrade gradio gradio-client |
升级完成后应该就可以使用以下指令启动了:
1 | python webui.py |
然后就可以浏览器访问自动打开的链接进行语音模型训练和推理了,后续会使用提供的推理接口进行API服务的搭建,提供在线的语音合成服务。请期待后续的文章!
All articles on this blog are licensed under CC BY-NC-SA 4.0 unless otherwise stated.
