前置条件
- 1已注册腾讯云账号
- 2一台腾讯云服务器:**内存 ≥ 20GB,推荐 8C32G**(低于此配置难以稳定运行)
- 3服务器已安装 Docker 20.10.5+ 与 Docker Compose v2.23.3+
- 4已安装 git-lfs(拉取模型需要)
读完想动手?新用户首单 8 折上云
服务器 + 大模型 API + 对象存储,新用户首购享 20% 补贴
常见问题
QQAnything 和 RAGFlow、MaxKB 该怎么选?
看场景。QAnything 的强项是**中文与跨语言检索**——自研 BCEmbedding 在中英混合、跨语言召回上表现突出,加上 BM25 + 向量的混合检索,适合文档语言混杂、要求召回率的场景,代价是硬件门槛较高(内存 20GB 起)。RAGFlow 腾讯云部署教程 主打深度文档理解与原文溯源,适合制度与合同库。 MaxKB 腾讯云部署教程 最轻,4C8G 就能跑,适合快速上手。要中文检索精度选 QAnything,要文档还原选 RAGFlow,要省事选 MaxKB。
Q没有 GPU 能部署吗?
官方 Docker 方案面向 GPU 环境(Linux 前置条件里要求 NVIDIA GPU 显存 ≥4GB,推荐 RTX 3090),因为本地的 embedding 与 rerank 模型跑在 Triton 上。如果你只有 CPU 机器,可以改用官方的「纯 Python 环境安装」版本——它支持纯 CPU 运行,但官方明确说明仅作 demo 体验,不建议生产部署。生产用建议直接上 GPU 机型,或者在 CPU 机器改用 MaxKB。
Q数据真的完全不出外网吗?
可以做到。QAnything 支持全离线私有化:本地部署大模型(官方推荐用 Ollama),embedding 与 rerank 也走本地模型,全程不调用外部 API。本文会给出接入本地 Ollama 的具体配置。注意首次部署仍需要联网拉镜像与模型权重,之后即可断网运行。