共 8 篇内容，涉及 1 个模块
InternLM 书生·浦语是上海人工智能实验室开源的国产大模型，长文本能力是它最突出的卖点——早期版本就以 200K 上下文闻名，适合处理长文档、长对话与代码库级理解。本文手把手教你在腾讯云服务器上部署 InternLM：Ollama 快速起步的省心路径，以及 LMDeploy 高并发生产路径，涵盖机型选型、模型获取（ModelScope 国内加速）、OpenAI 兼容接口、长上下文实践、与 Dify 和知识库对接，以及 20 条从模型拉不动、长文本截断到显存不足的真实故障排查。跟着做即可完成。
智谱 AI 的 GLM 系列是国内最早开源、生态最成熟的国产大模型之一，中文能力与工具调用表现稳定。本文手把手教你在腾讯云服务器上部署 GLM-4：一条命令用 Ollama 跑起来的快速路径，以及用 vLLM 支撑多并发的生产路径，涵盖 2C4G 到 8C16G 三档机型选型、Ollama 与 vLLM 的显存/内存对照、OpenAI 兼容接口对接、Dify 与 MaxKB 知识库接入、国产镜像加速下载，以及 20 条从模型拉不动到中文乱码到并发崩的真实故障排查。跟着做即可完成。
Qwen3 是阿里开源的国产大模型系列，Apache 2.0 协议可商用、原生支持思考模式开关、密集模型与 MoE 版本齐全，国内镜像下载无需代理。本文手把手教你在腾讯云轻量应用服务器与 GPU 实例上部署 Qwen3：Ollama 一条命令起步 + vLLM 高并发生产级部署两条完整路径，含 8B/14B/30B 三档显存与内存选型的实测数据、ModelScope 镜像下载加速、thinking 模式与上下文长度调优、Open WebUI 与 Dify 对接、Nginx HTTPS 反代，以及 20 条从显存不足到并发超时的故障排查。跟着做即可完成从零到生产可用。
DeepSeek V4.1 Flash 是 552B 总参数仅 8B 激活的 MoE 国产模型，Apache 2.0 协议可商用、1M tokens 上下文、国内直连无需代理。本文手把手教你在腾讯云轻量应用服务器与 GPU 实例上用 Ollama + Open WebUI 从零部署 V4.1 Flash：含 4C8G 到 8C16G 到 GPU 三档选型的真实内存与速度数据（含 CPU 推理 2.5 到 5 tokens 每秒实测）、腾讯云内网 Docker 源与 ModelScope 镜像下载双加速方案、Modelfile 配置、Open WebUI 知识库 RAG、Nginx 反向代理与 HTTPS、以及 22 条从镜像拉取失败到宿主机 OOM 到 API release 的故障排查表。跟着做即可完成从零到生产可用。
2026 年 9 月 28 日，H Company 开源了 Holo4 系列计算机操作智能体模型——27B 稠密版与 35B-A3B MoE 版，权重直接放在 Hugging Face。官方数据里 27B 在 OSWorld 上拿到 85.2%、单任务成本 0.08 美元；在覆盖长流程的 OSWorld 2.0 上得分 61.7%、单任务 1.22 美元。这个数字的意义在于：半年前「让 AI 操作电脑」还是闭源模型的专属能力，按次调用动辄几美元；现在一个 27B 的模型能在单卡上跑，成本降了两个数量级。本文是一份可直接照抄的本地部署与接入实战：从硬件选型、vLLM 部署、GUI 执行层搭建，到围栏配置、成本实测、以及和 GPT-6 Astra / Qwen3.8 Max 的选型对比。
手把手教你将 Dify 接入 本地部署，快速获得强大的 AI 能力加持
手把手教你将 Ollama 接入 VS Code，快速获得强大的 AI 能力加持
详细步骤教你部署和使用LLM-Quick轻量级大语言模型，实现本地AI推理