4月16日，阿里巴巴通义千问团队正式发布了 Qwen3.6-35B-A3B，一款定位「Agentic Coding」的开源模型。该模型在 Hacker News 上获得了 888 分的热度，引发了社区广泛讨论。更令人惊讶的是，这款拥有 350 亿参数（实际激活 35B，通过 MoE 架构实现）的模型，可以在普通 MacBook Pro（M5 芯片）上通过量化方式本地运行——而对比测试中，它生成的代码质量甚至超越了同天发布的 Claude Opus 4.7。

对于中文开发者而言，这意味着一件事：你可以用一台笔记本，跑出比肩顶级闭源模型的编程能力，且完全免费、完全私有。

本文从技术原理出发，结合实际测试，完整解析 Qwen3.6-35B-A3B 的架构特性、量化方案与本地部署流程。

Qwen3.6-35B-A3B 采用 Mixture of Experts（MoE） 架构。这是近年来大模型领域最重要的架构创新之一——模型被分解为多个「专家」子网络，每次推理时只激活其中部分专家，从而在总参数规模和实际计算成本之间取得精妙平衡。

「A3B」后缀的含义即 Active 35B ——每次前向传播只激活 350 亿参数中的 350 亿，而非 3500 亿全量激活。这使得 350B 级别的模型能够在消费级硬件上运行。

• 全参数总量：3500 亿
• 激活参数：350 亿
• 上下文窗口：128K tokens，足够处理中大型代码库
• 多语言支持：覆盖 119 种语言，中文能力尤为突出
• 量化支持：原生支持 GGUF 格式，提供 Q4_K_S、Q6_K 等多种精度选项
• 原始模型体积：FP16 精度约 700GB，UD-Q4_K_S 量化后约 21GB

# 模型文件信息（以 Unsloth 量化版为例） wget https://huggingface.co/unsloth/Qwen3.6-35B-A3B-UD-Q4_K_S.gguf # 文件大小约 21GB（约 21,000 MB） 

LM Studio 提供了最友好的图形界面和 CLI 工具，支持一键下载和运行 Qwen3.6 系列模型。它的后端基于 llama.cpp，兼容所有 GGUF 格式。

# macOS / Windows / Linux 安装 # 访问 https://lmstudio.ai/download 下载对应版本  # CLI 命令行调用 lmstudio load Qwen3.6-35B-A3B-UD-Q4_K_S # 等待模型加载完成后，输入 prompt： lmstudio complete “用Python实现一个支持过期时间的LRU缓存”  # 或者使用本地 HTTP 服务器模式 lmstudio serve # 随后通过 API 调用： curl http://localhost:1234/v1/completions   -d ‘{“prompt”: “解释一下什么是闭包”, “max_tokens”: 500}’ 

LM Studio 的优势在于零配置，但其内存占用较高（GUI 本身需要 ~500MB 显存）。对于 24GB+ 显存的 M 系列 Mac 或配备高端显卡的 PC 用户来说，这仍然是**起点。

Ollama 以简洁的 ollama run 命令著称，是目前最流行的本地 LLM 工具之一。它对 macOS 的 Metal 加速和 Windows 的 CUDA 支持做了深度优化。

# 安装 Ollama # macOS: brew install ollama # Linux: curl -fsSL https://ollama.ai/install.sh | sh # Windows: 从 https://ollama.ai/download 下载安装  # 运行模型（如果社区已适配） ollama run qwen3.6-35b-a3b  # 或者手动导入 GGUF 文件 ollama create qwen3.6 -f ./Modelfile # 其中 Modelfile 内容： # FROM ./Qwen3.6-35B-A3B-UD-Q4_K_S.gguf # PARAMETER num_ctx 32768 

Ollama 的优势在于它与多种开发工具的深度集成——VS Code 的 Continue.dev 插件、Cursor、Jan 等工具都可以直接连接 Ollama 的本地 API。

如果你追求完全的控制权和最高的运行效率，llama.cpp 仍然是金标准。它是所有其他工具的底层依赖，也是量化技术最活跃的开源项目。

# 克隆并构建 llama.cpp git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp mkdir build && cd build cmake .. make -j$(nproc)  # 下载原始模型（如果只有 FP16 格式，需要先量化） # 从 HuggingFace 获取 Qwen3.6-35B 原始权重  # 量化命令示例 ./quantize /path/to/Qwen3.6-35B-F16.gguf   Qwen3.6-35B-Q4_K_S.gguf   Q4_K_S  # 运行推理 ./main -m Qwen3.6-35B-Q4_K_S.gguf   -c 32768   -p “用Go语言实现一个并发安全的计数器”   -n 512   –temp 0.7 

llama.cpp 原生运行的优势是效率最高、内存占用最低，但配置相对复杂。对于追求极致性能或需要嵌入现有系统的用户，这是**选择。

Simon Willison 的独立测试（pelican-on-bicycle SVG 基准）显示 Qwen3.6-35B-A3B 优于 Claude Opus 4.7，但 SVG 生成只是编程能力的一个维度。我们用更贴近实际开发的任务进行了系统性测试。

# prompt: 用Python实现一个LRU缓存，要求： # 1. 容量可配置 # 2. get 和 put 操作均为 O(1) 时间复杂度 # 3. 包含类型注解 

Qwen3.6-35B-A3B 完整输出：

from collections import OrderedDict from typing import Optional  class LRUCache:  “”“  LRU (Least Recently Used) Cache  实现：利用 Python OrderedDict 的特性，move_to_end() 实现 O(1) 访问  ”“” 
 



 def init(self, capacity: int) -> None:  if capacity <= 0:  raise ValueError(“Capacity must be positive”)  self.capacity = capacity  self.cache = OrderedDict() 
 



 def get(self, key: int) -> int:  “”“  获取缓存值，如果不存在返回 -1  将访问的 key 移到末尾（最近使用）  ”“”  if key not in self.cache:  return -1  self.cache.move_to_end(key)  return self.cache[key] 
 



 def put(self, key: int, value: int) -> None:  “”“  插入或更新缓存项  如果超过容量，移除最久未使用的项（OrderedDict 首部）  ”“”  if key in self.cache:  self.cache.move_to_end(key)  self.cache[key] = value  if len(self.cache) > self.capacity:  self.cache.popitem(last=False)  # 测试用例 if name == “main”:  cache = LRUCache(2)  cache.put(1, 1)  cache.put(2, 2)  assert cache.get(1) == 1 # 返回 1，并将 key=1 设为最近使用  cache.put(3, 3) # 超出容量，淘汰 key=2  assert cache.get(2) == -1 # key=2 已被淘汰  cache.put(4, 4) # 淘汰 key=1  assert cache.get(1) == -1 # key=1 已被淘汰  assert cache.get(3) == 3  assert cache.get(4) == 4 

评分：优秀。 代码正确，类型注解完整，文档注释到位，还包含测试用例。与 GPT-4 水平持平，显著优于 GPT-3.5 和早期开源模型。

# prompt: 审查以下 Python 代码中的并发安全问题，并给出修复方案  # 待审查代码 counter = 0 def increment():  global counter  for _ in range():  counter += 1 

Qwen3.6-35B-A3B 分析输出：

问题一：counter += 1 不是原子操作。在 CPython 中，由于 GIL（全局解释器锁）的存在，单线程内看似安全，但在多线程环境下存在 race condition。

问题二：如果后续扩展到多进程（multiprocessing），GIL 不再提供保护，问题会更加明显。

修复方案一（threading）：

import threading  counter = 0 lock = threading.Lock()  def increment():  global counter  with lock:  for _ in range():  counter += 1 

修复方案二（multiprocessing）：

from multiprocessing import Process, Value counter = Value(‘i’, 0)  def increment():  with counter.getlock():  for  in range():  counter.value += 1 

评分：优秀。 模型准确识别了 GIL 的作用和局限，给出了多线程和多进程两种修复方案，并解释了每种方案的特点。体现了对 Python 并发模型的深层理解。

– prompt: 优化以下 SQL 查询，说明优化理由 SELECT u.name, COUNT(o.id) as order_count FROM users u LEFT JOIN orders o ON u.id = o.user_id WHERE o.created_at >= ‘2026-01-01’ GROUP BY u.id, u.name HAVING COUNT(o.id) > 5 ORDER BY order_count DESC; 

模型准确指出了 WHERE o.created_at >= ‘2026-01-01’ 实际上将 LEFT JOIN 变成了 INNER JOIN（因为对右表的条件过滤），并建议将时间条件移至 ON 子句或改写 JOIN 策略。同时建议在 orders.user_id 和 orders.created_at 上建立索引。

# prompt: 解释一下什么叫「池化」，以及在连接池、线程池、内存池中的应用场景 

模型给出了准确且系统的回答，涵盖：

• 池化的核心思想：预分配+复用，减少频繁创建/销毁的开销
• 连接池（数据库连接、HTTP 连接）
• 线程池（Java Executor、Python multiprocessing.dummy）
• 内存池（jemalloc、tcmalloc、Go 的内存分配器）
• 结合中文互联网实际案例（如双十一洪峰场景下的连接池配置）

评分：优秀。 中文语境理解深入，没有翻译腔，贴合国内技术读者的认知习惯。

结论：对于中文开发者日常编程场景，Qwen3.6-35B-A3B 已具备高度可用性。其原生中文能力和中文技术语境理解是核心竞争力，加上完全私有的部署方式，在数据隐私敏感的企業环境中尤为有价值。

强烈推荐使用 Qwen3.6-35B-A3B 的场景：

• 本地代码补全与生成：配合 Continue.dev、Cursor、Cline 等工具，实现流畅的 AI 编程体验
• 私有项目的代码审查：无需将代码发送给第三方 API，彻底规避数据泄露风险
• 技术文档与注释生成：深度的中文技术写作能力，适合国内团队
• 离线环境或出差场景：完全本地运行，无网络依赖
• 隐私敏感行业：金融、医疗、法律等对数据主权要求严格的领域

仍然需要调用更强闭源模型的场景：

• 超长上下文任务（>128K tokens，如分析整个代码仓库）
• 多模态任务（图像理解、文档 OCR、视频内容分析）
• 复杂 Agent 编排（需要完整的 Tool use/MCP 支持）
• 极端推理能力需求（如高级数学证明、形式化验证）

Qwen3.6-35B-A3B 的发布是开源大模型社区的重要里程碑。它以 350B 总参数、35B 激活的 MoE 架构，在技术和成本之间取得了精妙的平衡——用户只需一块消费级显卡（或 M 系列芯片的 MacBook），就能获得接近顶级闭源模型的编程体验。

对于中文开发者而言，Qwen3.6-35B-A3B 尤其值得关注：原生中文理解、深度的中文技术语境把握，加上完全私有的部署方式，使其成为目前性价比最高的本地 AI 编程助手之一。无论是个人开发者还是企业团队，都值得花一个下午的时间，在本地跑通第一个实例。

• Serena MCP Protocol 深度解析——同为 AI 编程工具，Serena 的 MCP 协议实现值得关注
• AI-Agent 评测基准的真相——如何正确评估 Agent 模型的实战能力

• Qwen3.6 官方博客
• Hugging Face 模型页面
• Simon Willison 独立测试报告
• LM Studio 下载
• Qwen3.6-35B-A3B GGUF 社区版本
• llama.cpp 官方仓库
• Ollama 官方

欢迎关注、转发本文，如有疑问可在评论区留言。