在WSL上部署langchain-chatchat
安装Python
Langchain Chatchat目前只支持Python 3.11版本。需要确保操作系统的Python 版本是3.11。当前我是用的是OpenEuler 24.03 WSL,默认支持的Python是3.11版本,直接安装Python即可。如果使用的是Ubuntu 24.04或者其他版本需要确保安装Python版本是3.11,如果不是求助豆包或者DeepSeek。安装好Python后可以通过python -V 查询Python版本。
创建并激活虚拟Python环境
大模型各种软件依赖比较多,版本也不一致。最好把不同软件部署在不同的虚拟化环境中。
- 执行如下命令创建虚拟化环境:
python -m venv reg_env即可创建一个reg_env虚拟环境,在ubuntu系统下该命令可能执行失败,如果执行失败按系统提示安装虚拟环境创建的命令再执行上述命令。上述命令执行成功后后会在工作目录创建一个reg_env目录,目录中就是虚拟换机各种软件资源。 - 执行如下命令激活虚拟环境:
source ./reg_env/bin/activate即可激活当前虚拟环境。虚拟环境激活成功以后会在命令行提示符增加(rag_env)信息。
安装langchain-chatchat
安装方式一
执行如下命令安装chatchat:pip install langchain-chatchat -U -i https://mirrors.aliyun.com/pypi/simple/。
[!Notes]
上述命令会默认安装langchain-chatchat和依赖的包。某些依赖包版本升级后可能存在兼容性的问题。比如:chatchat当前支持httpx 0.27.x版本,上述命令默认安装了0.28.x版本,httx 0.28.x版本会出现一个proxies参数错误的问题。需要重新手工安装httpx版本,具体执行如下命令:pip install httpx==0.27.2 -i https://mirrors.aliyun.com/pypi/simple/
安装方式二
在网上搜索chatchat 按照的requirements.txt,可以执行如下命令安装:pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple/
[! TIP]
上述的requirements.txt 可以通过已经部署好的环境通过如下命令导出:
python freeze > requirements.txt
配置chatchat环境
关闭SSL鉴权
为避免调用大模型错误,需要关闭chatchat SSL。进入到安装好chatchat的的虚拟化环境目录./rag_env/lib/python3.11/site-packages/requests,编辑session.py文件,将517行的 verify=None,改成verify=False。
配置模型参数
- 首先要执行
chatchat init初始化运行环境,此时会在工作目录下生成一些测试数据和默认配置文件。 - 在model_settings.yaml 文件中配置模型LLM模型和Embedding模型。以硅基流动的Qwen3模型为例,可以在https://siliconflow.cn/models 查询模型信息:
1 | DEFAULT_LLM_MODEL: Qwen/Qwen3-32B |
配置基础配置参数
- 配置服务器地址在 basic_settings.yaml 中可以设置访问chatchat的IP地址和端口。默认WEBUI_SERVER配置的host ip地址 0.0.0.0地址,可以将此地址改成wsl的虚拟ip地址方便从Windows系统中点击链接访问(可选)。
注意:不要修改API_SERVER的host地址,由于chatchat默认的知识库也部署在wsl里,如果修改此地址会导致chatchat无法通过本机地址访问知识库,如果需要对外提供支持库地址则修改public_host地址即可(暂未测试)。
- 配置知识库存储路径
1 | KB_ROOT_PATH: /工作目录/data/knowledge_base |
启动chatchat环境
- 执行
chatcaht kb -r初始化知识库,在执行此命令之前可以删除一些测试文件,加速知识库的生成过程。具体数据在./data/knowledge_base/samples/content/目录下。 - 执行
chatchat start -a启动chatchat。当启动完成以后就可以在Windows上通过wsl的虚拟ip地址访问chatchat了。
在WSL上部署langchain-chatchat
