覆盖 Qwen3.5 / 3.6 / 3.7 三个世代共 13 个模型(含 2 个端到端语音模型)的参数规模、架构、上下文、价格与能力定位;
并给出一套面向语音客服与外呼的四维度评测方案,配套可真跑的 qwen-bench 工具。
MoE 模型的「总参数 / 激活参数」决定了两件事:总参数决定能力上限与部署显存, 激活参数决定推理速度与单 token 成本。所以 122B-A10B 能做到"122B 的知识面、10B 的速度"。
| 模型 | 系列 | 定位 | 参数 / 激活 | 架构 | 上下文 | 开源 | 输入 | 输出 | 混合价 | 场景定位 |
|---|
--session-in 调整。首次做到原生多模态统一底座(早融合视觉-语言)+ 混合稀疏架构(Gated Delta Networks + 256 专家 MoE)。 旗舰 397B-A17B 以 17B 激活超过上代万亿参数的 Qwen3-Max,部署显存降约 60%。 家族最全:397B / 122B / 35B / 27B / 9B / 4B / 2B / 0.8B,支持 201 种语言。这一代是私有化部署的主力选择。
重点强化 Agentic Coding / 前端生成 / Vibe Coding 与多模态识别(OCR、万物识别、物体定位)。 3.6-Plus 的 SWE-bench Verified 达 78.8%、AA 智能指数 40(3.5-122B 为 32)。 开源侧 35B-A3B 用 3B 激活反超上代 27B Dense。对客服的实际价值:工具调用与多步编排更稳。
Max 为超万亿参数高稀疏 MoE,上下文扩到 100 万 Token,主打长周期自治执行; Plus 为主力性价比款,输出价比 3.6-Plus 降 33%(12 → 8 元)。 相比前代 Qwen-Max,输入/输出价格分别下降 88% / 84%。目前在线客服链路的默认候选就是 3.7-Plus。
qwen3.7-plus 这类别名会随时间指向新快照(能力与延迟都可能变),
生产环境建议锁定 qwen3.7-plus-2026-05-26 这种带日期的快照名,并定期用本方案回归。
同一个模型在两个都叫"客服"的基准上,表现可以差出 8 倍。这不是榜单有问题,是任务形态不同。
| 基准 | 任务形态 | Qwen 表现 | 最优模型 | 对我们的含义 |
|---|---|---|---|---|
| τ²-bench 零售 / 航司 / 电信 |
有明确工具 + 流程规则,与模拟用户多轮交互,按数据库状态判定 | Qwen3.5-397B 87.9% 全球第 2 |
GLM-5.2 90.9% | 流程驱动型客服,千问完全够用 |
| τ³-Banking 知识密集型 |
从 ~700 篇文档检索并应用政策 | Qwen3.5-397B 9.8% 榜末 |
GPT-5.5 46.4% | 知识检索必须外挂 RAG,且检索质量决定上限 |
| TAU2-Bench | 工具-用户交互(官方自测口径) | Qwen3.5-122B 79.5% 优于 GPT-5-mini 69.8% |
— | 中型开源模型的工具调用已可用 |
| AA 智能指数 | 9 项综合评测加权 | 3.6-Plus 40 / 3.5-122B 32 | — | 通用能力参考,与客服相关性弱 |
| SWE-bench Verified | 真实仓库代码修复 | 3.6-Plus 78.8% / 3.5-122B 72.0% | — | 与客服无关,不应作为选型依据 |
全部规则可自动判定,不用人工标注、不用裁判模型(避免裁判模型的偏好污染横评结果)。 每题输出 0~1 分 + 失败原因标签,便于定位短板。
12 题 · 意图命中 0.6 + 槽位 F1 0.4
10 题 · 工具正确 0.5 + 参数精确匹配 0.5
12 题 · 三类题分别判定
10 题 · 四项扣分制 + 延迟打点
ttft_ms:请求发出 → 第一个 chunk(可能是思考内容)ttfa_ms:请求发出 → 第一个正式回答字符 —— 外呼真正的首播延迟,选型看这个e2e_ms:请求发出 → 流结束;tps:输出 token 数 / 解码时长建议门线:外呼实时链路 TTFA p50 < 800ms,超过 1.2s 用户会明显感觉卡顿。
按"一通典型客服会话"折算:默认单通输入 3000 Token(system prompt + 知识库 + 历史)、输出 300 Token,
产出 cost_per_1k_sessions(千通成本,元)与 score_per_yuan(总分 / 千通成本 = 性价比)。
| 模型 | 总分 | 意图 25% | 工具 30% | 幻觉 30% | 语音 15% | TTFA p50 | 吞吐 t/s | 千通成本 | 分/元 | 主要失败类型 |
|---|
纯标准库实现(SSE 流式用 urllib 手写),无第三方依赖;题库为 JSONL,替换成自己的业务话术即可复用。
cd qwen-bench
# 1. 看全系列规格与价格(不调 API、不花钱)
python3 -m qwen_bench --list
# 2. 离线跑通全流程,验证打分逻辑
python3 -m qwen_bench --mock --preset all
# 3. 真实评测:把 Key 写进 .env(已 gitignore)
cp .env.example .env # 填 DASHSCOPE_API_KEY=sk-xxx
python3 -m qwen_bench --preset shortlist --repeats 3
# 4. 只测某几个维度 / 导出报告页数据
python3 -m qwen_bench --dims toolcall,knowledge --models qwen3.7-plus
python3 -m qwen_bench --preset all --site-js ../research-hub/qwen-bench-data.js
qwen_bench/models.py —— 13 个模型的规格与价格注册表,改价只需改一处qwen_bench/client.py —— 百炼 OpenAI 兼容流式客户端 + 延迟打点qwen_bench/scorers.py —— 四维打分器与权重(DIM_WEIGHTS 可改)data/*.jsonl —— 44 道中文题库,按维度分文件results/<时间戳>/ —— 原始回复 + 打分明细 + 聚合 CSVqwen-bench/qwen_bench/models.py 自动导出,
建议每季度用官方价格页校对一次;实测数据可随时重跑刷新。