前置条件
- 1已注册腾讯云账号
- 2一台腾讯云轻量应用服务器或 CVM（2C4G 起步，推荐 4C8G 及以上）
- 3服务器已安装 Docker 与 docker compose 插件
- 4熟悉基础 Linux 命令
读完想动手？新用户首单 8 折上云
服务器 + 大模型 API + 对象存储，新用户首购享 20% 补贴
常见问题
QGLM 和 Qwen、DeepSeek 相比，本地部署有什么不一样？
底层部署方式几乎一样，都是走 Ollama 或 vLLM，区别在模型权重与上下文长度。GLM-4 的中文对话与工具调用（function call）表现稳定，9B 版本对显存要求友好。如果你主要做中文客服与知识库问答，GLM 是稳妥选择；如果偏重代码与数学推理，可以看 Qwen3 腾讯云部署教程。两者可以在同一台机器上共存，按需切换。
Q2C4G 的轻量服务器能跑 GLM 吗？
能跑，但只能用量化版本。Ollama 上选 glm4:9b 的 q4 量化，4GB 内存勉强能加载，但并发只能 1 人，响应会比较慢。真正要做多人使用，建议 4C8G 起步；如果还要在同一台机器上跑知识库（如 RAGFlow 腾讯云部署教程），那就要 8C16G 以上。选型时把内存当成硬指标，不要只看 CPU 核数。
Q本地部署的 GLM 能接进我现有的系统吗？
能。Ollama 与 vLLM 都提供 OpenAI 兼容接口，任何支持 OpenAI API 的客户端改一下 base_url 就能接。本文会给出 Dify、MaxKB、Open WebUI 三个具体对接示例，以及用 curl 验证接口连通性的方法。