前置条件
- 1已注册腾讯云账号
- 2已购买一台轻量应用服务器(建议 4C8G 起步)
- 3服务器已安装 Docker 与 docker compose 插件
读完想动手?新用户首单 8 折上云
服务器 + 大模型 API + 对象存储,新用户首购享 20% 补贴
常见问题
Q和直接用 Dify 相比,FastGPT 的优势在哪?
两者都是优秀的国产编排平台,但侧重点不同。FastGPT 在知识库 RAG 方向做得更细:分段策略、向量检索最小相似度、引用溯源百分比都能参数化精调,还提供召回质检工具;界面偏「知识库问答」心智,中文文档扎实。Dify 则在通用 Agent 与应用商店生态上更强。如果你的首要诉求是「把公司文档喂进去问得出、还得能溯源」,FastGPT 上手更直接。
Q搭建需要买很贵的 GPU 服务器吗?
不需要。本方案把 embedding(向量化)和对话大模型都交给国产云端 API(阿里云百炼 text-embedding-v3 与 DeepSeek / Qwen),服务器只跑 FastGPT 自身的服务与数据库。因此 4C8G 就能跑起来,生产级知识库建议 8C16G。只有当你要完全离线连 embedding 都自己算,才需要 GPU。
Q为什么要用 OneAPI 做一层模型网关,不能直接填 API Key 吗?
FastGPT 支持直接配 API Key,但一旦你接了多家(DeepSeek 对话 + 百炼 embedding + Qwen 备用),管理多个密钥、统一走一处限流和计费会很乱。OneAPI 是国产的模型网关,把这些都聚合成一个 OpenAI 兼容地址和一个令牌,FastGPT 只认这一个入口。后续换模型、加渠道都不用动 FastGPT 的配置,排障也更集中。