#SGLang

GLM-5.2 接入 VS Code 完整指南：云 API 与本地 vLLM/Ollama 私有化双路径实测，24GB 单卡跑通内网零数据外泄

GLM-5.2 是智谱 2026 年主推的开源旗舰：106B 总参数 / 12B 激活的 MoE 架构、128K 上下文、原生 Function Calling 与 web_search 联网工具，权重开放可直接本地部署。本文在 VS Code 里用 Continue 和 Cline 两个客户端跑通两条完全不同的路径——云端走 open.bigmodel.cn 的 OpenAI 兼容接口，本地走 vLLM / SGLang / Ollama 起内网推理服务——给出逐行带中文注释的完整配置、三档显存账（FP16 每十亿参数 2GB、INT4 约 0.6GB）、9B 版本单卡 24GB 跑通的实测参数，以及同一任务的 token、首字延迟、生成速度与单次成本对比表，最后算清私有化到底什么规模才回本。