Open-LLM-VTuber 模型部署教程Open-LLM-VTuber 是一个集成了 Live2DAI 虚拟形象并支持语音聊天对话的项目。
随着虚拟现实技术和网络直播的快速发展,虚拟主播(VTuber)逐渐成为了一个新兴的文化现象。Open-LLM-VTuber 项目旨在通过开源的方式,为更多人提供创建和体验虚拟主播的机会,降低技术门槛,推动虚拟主播文化的普及和发展。
项目地址:https://github.com/t41372/Open-LLM-VTuber?tab=readme-ov-file
建议使用 RTX3060 及以上显卡 。
进入 Anaconda 官网:
找到快速命令行安装,选择 Linux 系统,复制代码进入终端进行安装。


等待安装完成。
apt-get update
apt-get install -y unzip
apt-get install -y lsof
apt-get install -y git
apt-get install -y git-lfs

git clone https://github.com/t41372/Open-LLM-VTuber.git
cd /Open-LLM-VTuber/
conda create -n szr python="3.10.4" -y
conda activate szr
pip install -r requirements.txt
sudo apt-get update
sudo apt-get install -y ffmpeg
pip install modelscope
git clone https://www.modelscope.cn/modelscope/ollama-linux.git
cd ollama-linux
sudo chmod 777 ./ollama-modelscope-install.sh
./ollama-modelscope-install.sh
cd /usr/local/bin/
ollama serve

从日志信息中可以看出,ollama serve 命令已经成功启动了 Ollama 服务并监听在 127.0.0.1:11434 端口。这些日志内容包括一些配置信息以及关于 Ollama 服务运行环境的设置,说明服务器正在识别 GPU 设备并初始化配置。


选择模型不同参数大小,复制命令,等待下载

下载完成

pip install -U funasr modelscope huggingface_hub
pip install torch torchaudio
耐心等待
pip install edge-tts
打开/Open-LLM-VTuber/conf.yaml
选择ASR(自动语音识别)模型,没有gpu时选用FunASR不用api密钥比较方便。有gpu时选用Faster-Whisper,或者根据需要选择其他

选择TTS模型,这里选用edgeTTS免费。

打开/Open-LLM-VTuber/server.py
最后一排可用来更改端口,若为本机则直接运行python server.py

运行成功点击网址即可访问

若为远程服务器,则不支持HTTPS协议,是不支持使用·麦克风功能的,可以通过本地私密访问ssh工具开放端口,进行本地使用。
点击此处,立即体验Open-LLM-VTuber!
