MindSearch 模型部署教程书生·浦语团队提出了 MindSearch(思·索)框架,能够在 3 分钟内主动从 300+ 网页中搜集整理有效信息,总结归纳,解决人类需要 3 小时才能完成的任务。

包括但不限于以下几个方面:
apt update
apt upgrade
apt install build-essential
在Miniconda官网找到相应版本的安装链接,结合相应的安装指令,进行安装

安装miniconda命令
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash Miniconda3-latest-Linux-x86_64.sh
conda create -n mindsearch python=3.9
conda activate mindserarch
git clone https://github.com/InternLM/MindSearch
cd MindSearch
pip install -r requirements.txt
启动 FastAPI 服务
python -m mindsearch.app --lang en --model_format internlm_server

--lang: 模型的语言,en 为英语,cn 为中文。--model_format: 模型的格式。
internlm_server 为 InternLM2.5-7b-chat 本地服务器。gpt4 为 GPT4。 如果您想使用其他模型,请修改 modelsdemo.launch(server_name='0.0.0.0', server_port=8080)

python frontend/mindsearch_gradio.py


点击此处,立即体验MindSearch!
