此前的报告矩阵已覆盖 ASR、EOU、TTS、LLM 四个单点组件,本篇补上中心空洞:编排框架(开源)、语音 Agent 平台(商业)、端到端语音模型(S2S)三条路线的横评与决策,面向东南亚 + 拉美外呼/呼入业务。
Pipecat 13,416★ > LiveKit Agents 11,356★ > TEN Framework 10,898★。三者均在万星以上且活跃迭代——热度不是差异点,设计哲学才是:Pipecat 是"管线"(frame processor 流水线),LiveKit 是"平台"(WebRTC 基础设施 + Agent 层),TEN 是"图"(跨语言节点图编排,Agora 支持)。
↔ 表格可横向滑动 | 综合 thinnest.ai(注意:其商业产品建于 LiveKit 上,立场已校正)、Evalgent、Soniox wiki、各官方文档交叉核对
| 维度 | LiveKit Agents | Pipecat | TEN Framework | Vocode | Bolna |
|---|---|---|---|---|---|
| 协议 / 背书 | Apache 2.0 · LiveKit Inc(融资 $83M+) | BSD-2 · Daily.co | Apache 2.0 · Agora 支持 | MIT · Vocode Inc | MIT · 印度团队 |
| 核心抽象 | WebRTC 房间 + Agent | 帧处理器管线 | 跨语言节点图 | 流式 STT→LLM→TTS 封装 | 意见化外呼工作流 |
| 语言 | Python 主 / Node 次 | Python | Python / C++ / Go | Python / TypeScript | Python |
| 电话 / SIP | 原生 SIP + 自有号码产品,一等公民 | △ 走 Twilio(多经 Pipecat Cloud) | △ 插件 | Twilio / Vonage 一等(含外呼、转接、DTMF) | Twilio / Plivo / Exotel(印度线路) |
| 话轮检测 | 可配置 VAD 阈值 + 自研 turn detector 模型 | Smart Turn(语义判停)原生集成 | 自带 VAD / Turn Detection 子项目 | 基础 VAD | 基础 |
| 托管选项 | LiveKit Cloud(Agent 会话约 $0.01/min,SIP 约 $0.003–0.004/min) | Pipecat Cloud(2026 GA,多区域 + Krisp 降噪) | 仅自托管 | Vocode Cloud | 仅自托管 |
| 多模态(视频/视觉) | ✓ | ✓ | ✓ | 语音为主 | 语音为主 |
| 插件生态 | 最大(全主流 STT/LLM/TTS) | 大 | 较少 | 较少 | 少(Sarvam/印度栈特化) |
| 成熟度 | 最高 | 高 | 较新,生产案例少 | 近一年动能下降 | 中,规模化验证少 |
建议:原型阶段用 Pipecat(复用 smart-turn 资产,迭代最快);进入生产外呼、需要对接自有 SIP 线路时迁移或直接起 LiveKit Agents。两者组件模型相近,STT/LLM/TTS 供应商配置可平移。
thinnest.ai 的五强对比写得最全,但其商业产品构建在 LiveKit 上、面向印度市场卖托管——它对 LiveKit 的"最佳生产"评级与对自托管成本(6–9 个月工程量)的渲染需打折看待;Evalgent 卖语音 Agent 测试服务,其"框架不解决测试"的结论同样有立场。本篇仅采用两者的事实性参数(协议、SIP 能力、托管定价),评级结论已用官方文档交叉校正。
↔ 数据来自 tested.media 2026-03 实测(每平台 500 通生产通话 + 200 人盲测;该站为代理商,绝对值仅供对标,相对排序可参考)
| 维度 | Retell AI | Vapi | Bland AI | Synthflow |
|---|---|---|---|---|
| 定位 | 代码优先 · 呼入质量 | 代码优先 · 最灵活(BYO ASR/LLM/TTS) | 外呼特化 · 拨号器最强 | 无代码 · 最快上线 |
| 单价区间 | $0.07–0.18/min | $0.05–0.20/min(平台费 $0.05 + 模型按成本价) | $0.09–0.24/min(打包价;Build/Scale 档另收 $299/$499 月费) | $0.13–0.20/min |
| 中位延迟 | 680ms | 720ms(可调优) | 850ms | 920ms |
| 工具调用准确率 | 99.2% | 98.5% | 96.0% | 97.0% |
| 多语言 | 9 种 | 30+ 种 | 4 种 | 12 种 |
| 外呼拨号器 | 基础 | 基础 | 品类最强 + 原生 SMS 组合 | 基础 |
| 自托管 | ✗ | 部分 | ✗ | ✗ |
主要依据 LiveKit 官方架构指南(其同时销售两条路线的托管,立场相对中性),并与 arXiv 2603.05413(企业级实时语音 Agent 论文)、Coval 分析交叉验证
| 维度 | 级联 STT→LLM→TTS | S2S 端到端 |
|---|---|---|
| 上手速度 | △ 组件多、需编排 | ✓ 一个模型搞定 |
| 延迟 | △ 需流式重叠调优后达标 | ✓ 结构性优势(250–500ms) |
| 话轮检测 | ✓ 可自选/自训判停模型(Smart Turn 等) | ✗ 只能用内置,定制受限 |
| 语音自然度 | △ 靠 TTS,丢失语气信息 | ✓ 听得见迟疑/情绪并回应 |
| 工具调用可靠性 | ✓ 成熟文本 FC,准确率高 | ✗ 音频路径 FC 更新、更弱,部分模型调用时静默阻塞 |
| 可控性 / 调试 | ✓ 每层有文本可日志、可归因 | ✗ 黑盒,音频进音频出 |
| 成本 | ✓ 每层独立优化、可分级路由 | △ 按音频秒计费,随上下文膨胀 |
| 电话适配(8kHz G.711) | ✓ 可选电话优化 STT | ✗ 模型训练于 16–48kHz 网络音频,电话场景可靠性下降 |
| 合规 / 数据驻留 | ✓ 可分区域选组件、文本层脱敏 PII | ✗ 集中于少数美国厂商,难以插入脱敏与审计 |
↔ 面向东南亚/拉美业务的关键筛选维度:语种覆盖 + Function Calling + 定价
| 模型 | 语种覆盖 | Function Calling | 定价信号 | 对我们的可用性 |
|---|---|---|---|---|
| gpt-realtime-2.1 OpenAI · WebRTC/SIP/WS |
多语种(Realtime 系 70+ 语言,含泰/印尼/越/西/葡;小语种质量需实测) | ✓ 支持 MCP、非阻塞调用 | $32/1M 音频输入 + $64/1M 输出 ≈ $0.05/min(基础口径);缓存命中输入降 99%;mini 版约 $0.016/min | △ 呼入灰度可试;原生 SIP 接入是亮点,但数据出境需评估 |
| Qwen3.5-Omni Realtime 阿里百炼 · WebSocket |
113 种输入语种;29 种语音输出(含泰/印尼/越/马来/他加禄/西/葡) | ✓ plus/flash-realtime 均支持(并支持联网搜索,二选一) | flash 版走轻量价;另有 qwen-audio-3.0-realtime 专语音版(语义 VAD smart_turn + FC) | ✓ 语种覆盖最贴合业务;新加坡区可用性需按 SEA/拉美 LLM 报告的区域结论复核 |
| 豆包端到端实时语音 3.0 火山引擎 Seeduplex · WS |
仅中文、英语 | △ 原生全双工、动态判停是亮点 | 按模式计费(对话式/播报式两种) | ✗ 语种即淘汰:东南亚/拉美语种不支持,仅适合国内中文业务线 |
| MiniMax Realtime API Speech 2.6 生成链路 |
多语种 TTS 见长 | △ 资料有限 | 端到端延迟宣称 <250ms | △ 注意:MiniMax 无公开 ASR API(前期已核实),其 realtime 生态偏生成侧 |
| Gemini Live Google · WebSocket |
多语种(Live Translate 支持 70+ 语言) | ✓ | 按 Vertex 区域定价 | △ 参考 SEA/拉美 LLM 报告:新加坡 Vertex 可用性尚可,巴西侧需复核 |
$0.05/min 是"基础口径":每轮对话会重复计入增长中的上下文,长通话未做缓存时实际成本可达基础口径的 2–5 倍。三个必做动作:① 系统提示词与工具定义字节级稳定以保命中缓存(缓存输入 $0.40/1M,降 99%);② 静音也计费——挂机检测、VAD 收音控制必须做;③ 逐通话记录 token 用量并告警,防止 Agent 对着语音信箱空转烧钱。这些工程纪律同样适用于国内厂商的按时长计费模式。
口音、抢话、背景噪声、边角流程会击穿任何框架搭出来的 Agent。行业已出现专门的合成呼叫测试平台:用仿真来电者(可配口音/人设/噪声)批量打电话给你的 Agent,按场景断言 + 指标阈值出回归报告。主要玩家:Hamming(企业级,自动生成场景 + 回放生产通话 + 50+ 指标,SOC 2)、Coval(快速仿真评测)、Cekura、Evalgent(五原语:Scenario/Profile/Metric/Evaluation/Review)、Braintrust/Roark(评测平台延伸)。
| 场景 | 推荐路线 | 理由 |
|---|---|---|
| 东南亚/拉美外呼主链路(生产) | LiveKit Agents 级联自建 推荐 | 原生 SIP 对接自有线路;判停/ASR/TTS 按语种自选(衔接 EOU/ASR/TTS 三篇报告结论);文本层可审计 |
| 原型验证 / 新场景实验 | Pipecat | 管线抽象最快;Smart Turn 同门直用;本机已有 smart-turn 资产 |
| 呼入客服体验增强实验 | 半级联:Qwen3.5-Omni Realtime 听 + 自选 TTS 说 | 语种覆盖贴合(泰/印尼/越/西/葡);FC 可用;输出可控 |
| 国内中文业务线 | 豆包端到端 3.0 灰度 | 原生全双工 + 动态判停,中文体验第一梯队;仅限中英 |
| 体验对标基准 | Vapi / Retell 测试账号 | 托管路线工程上限参照(680ms 中位延迟、99.2% FC 准确率) |
| 多 Agent 复杂图编排研究 | TEN Framework | 图模型表达力强;接受较新生态的粗糙度 |
| 上线前回归验证 | 自建合成呼叫测试(qwen-bench/soniox-bench 方法平移),量大再评估 Hamming/Coval | 先零成本起步;平台价值在并发仿真与生产通话回放 |
本篇是"骨架",四肢在既有报告:判停选型见 EOU 多语种选型;ASR 见 开源 ASR 部署 与 asr-bench 看板;TTS 见 流式 TTS 全景;LLM 与区域可用性见 SEA/拉美大模型调研;线路对接见东南亚/拉美两篇线路调研。