前置条件
- 1已安装 VS Code 1.95 或更高版本(帮助 → 关于可查版本号)
- 2已注册智谱开放平台 open.bigmodel.cn 账号并拿到 API Key
- 3本地路径需要 NVIDIA 显卡(单卡 24GB 起)+ 已装 CUDA 12.1 以上驱动
- 4已安装 Node.js 18 以上(Continue / Cline 依赖)
- 5了解基本的 JSON 配置文件编辑
读完想动手?新用户首单 8 折上云
服务器 + 大模型 API + 对象存储,新用户首购享 20% 补贴
常见问题
QGLM-5.2 和 DeepSeek V4.1 Flash、Kimi K3 比该怎么选?
按「你要不要把权重抱回家」这条线来切。GLM-5.2 的最大差异是开源权重可直接本地部署,代码完全不出内网;DeepSeek V4.1 Flash 赢在 1M 超长上下文和极低价;Kimi K3 在超长文档理解上更强。如果你在金融、政企、医疗这类有数据合规红线的环境,GLM-5.2 几乎是唯一能在 VS Code 里合法用起来的国产旗舰;如果只是个人开发,云端按次付费更省心。
Q24GB 单卡真的能跑 GLM-5.2 吗?
完整版跑不了。106B 参数 FP16 要 212GB 显存,四卡 A800 起步。24GB 单卡跑通的是 GLM-5.2-9B 这个蒸馏版本,FP16 占 18GB,加 3GB 左右的运行时和 KV cache 开销刚好卡住;如果想要更长的上下文,建议用 AWQ 或 INT4 量化,显存压到 6GB 上下,剩下的空间全给 KV cache,128K 上下文也能稳住。选型表里有三档的完整显存账。
Q云端和本地切换要不要改客户端?
不需要换客户端,甚至不用重装扩展。只要坚持走 OpenAI 兼容协议,云端和本地的差异只有一个 apiBase 字段:云端填 https 的官方地址,本地填 http://127.0.0.1:8000/v1。本篇给出的 config.json 里把两个模型并列写在一起,Continue 右下角切一下就能在两个后端之间跳,出问题也好二分定位。
Q本地部署真的零成本吗?
不是。省的是按 token 计费的流量钱,多出来的是硬件、电费和运维。按我们的测算,十人团队重度使用云端月账单约 3080 元,换成双卡 4090 服务器后运营支出约 720 元,但硬件一次性投入五万二,按月省 2360 元算,回本周期 22 个月。所以私有化适合的场景是数据合规刚需 + 高并发 + 三年以上长期自用,个人开发者和小团队不建议为了省钱上本地。
Qweb_search 联网搜索在 VS Code 里怎么用?
智谱的接口是在请求体里传 tools 数组来开关联网,而 Continue 和 Cline 的配置项没有暴露这个字段,所以侧边栏里直接享受不到。两个变通办法:一是给需要联网的任务单独写个小 HTTP 请求脚本挂在 slash command 上;二是等官方适配,或者走 MCP server 把搜索能力包装成工具。生产环境里更稳的做法是本地模型配 Dify 或自建检索代填文档。
Q本地服务的响应速度比云端快还是慢?
分两段看。首字延迟本地完胜,我们实测本地 vLLM 是 0.11 秒,云端要 0.8 秒左右,差距来自网络往返;但生成吞吐反过来,云端 106B 集群约 118 tokens 每秒,本地单卡 9B INT4 只有 48 tokens 每秒。所以对 Tab 补全、短问答这类看首字延迟的任务本地更爽,对一次吐两千行长代码的生成任务云端更快。