QA

通话质检合规与语音 Agent 安全

← 返回调研中心

通话之后与通话之外:质检、录音合规、安全攻防三块拼图

此前的报告矩阵覆盖了"通话进行中"的全链路(判停/识别/合成/编排/线路),本篇补齐三块空白:① 通话后的 LLM 全量质检与指标体系;② 录音数据的存储合规(同意规则/保存期限/跨境);③ 语音 Agent 自身的安全攻防(提示词注入、声音克隆欺诈、成本耗尽攻击)。

一句话结论:质检已从"抽检 1–2%"进化到 LLM 全量评分(100% 覆盖是 2026 年 table stakes),AI 外呼场景质检对象变成 AI 自己——按 Hamming 四层观测框架(电话/ASR/LLM/TTS 逐层归因)搭,指标盯 containment ≥70%、TSR ≥75%、TTFW <500ms;录音合规按"最严辖区"设计一套(巴西 LGPD 必要期限 + 全员告知),别按国家各做一套;安全侧按 OWASP LLM Top 10 语音版过一遍清单——级联架构的文本中间层是天然防线(脱敏/输出校验/审计都在这层做),这与编排框架报告"级联为主"的结论互相加固。

编制日期 2026-07-30 | 三轮迭代 | 信源:OWASP / Hamming / 阿里云·华为云官方 / 行业安全厂商,关键结论 2+ 信源交叉验证

▦一、通话质检:从抽检到 LLM 全量评分

三代质检技术路线

  • 一代 · 人工抽检:抽 1–2% 通话人工听,覆盖率低、主观、滞后。
  • 二代 · 规则/小模型算子:关键词命中、静默比、语速、抢话检测——阿里云智能对话分析(SCA)内置 15+ 小模型算子,华为云 Speech Analytics 走 NLP+预定义规则,均支持全量机检。
  • 三代 · LLM 质检:大模型按 rubric 逐维评分 + 生成整改摘要,能判"流程是否走完、承诺是否兑现、话术是否合规"这类语义级问题;阿里云 SCA 已内置"大模型质检模式",国内普强深思等专营厂商同路线。100% 全量 + 自动评分已是 2026 年采购基线(AmplifAI/Coval 行业综述口径一致)。

AI 外呼的特殊性:质检对象是 AI 自己 —— 四层观测框架(Hamming)

人工坐席质检看"态度与话术";AI Agent 质检必须逐层归因——音频层问题会级联成转写错误→意图误判→任务失败,只看结果永远找不到根因:

层关键指标典型故障
① 电话/音频层丢包、抖动、信噪比、编解码延迟破音、掉线、回声
② ASR 转写层WER/CER、置信度、转写延迟听错、静默失败、漂移
③ LLM 语义层TTFT、意图准确率、幻觉率路由错、编造、超范围承诺
④ TTS 合成层合成延迟、MOS、音色一致性卡顿、机器音、音色漂移

这套分层与本地 duplex-trace 全双工链路追踪站点的设计完全同构——生产化时把 duplex-trace 的时序采集接上 OTel 即为观测底座。

核心业务指标公式/口径基准(Hamming 生产数据)
Containment 自闭环率AI 独立办结 / 总通话>80% 优秀;70–80% 良好;<60% 有能力缺口。警惕"假闭环":高 containment + 低满意度 = 用户放弃而非被解决
TSR 任务成功率完成任务 / 尝试任务(与是否转人工无关)≥75%;预约类流程可到 85%+
FCR 首解率48–72h 窗口内未回呼视为解决≥75% 行业基准
TTFW 首词延迟用户静音判定 → Agent 出声<300ms 自然;>800ms 对话开始崩坏;行业中位数实际 1.4–1.7s(差 5 倍,即优化空间)
话轮质量抢话恢复率 >90%、重叠 <5%、最长独白 <30s与 EOU 报告的误切断率指标共用回归门禁

落地方案:复用已有资产搭"离线质检流水线"零新增采购

  • 转写层:直接复用 开源 ASR 报告的离线质检方案(FireRedASR2 批量转写,普通话 CER 2.89%,自建盈亏平衡已测算);多语种通话用该报告的多语种补充章节选型。
  • 评分层:LLM rubric 评分复用 qwen-bench 的四维度出题与打分框架,改造成质检维度:合规话术命中 / 禁语与超范围承诺 / 流程完整性 / 客户情绪轨迹 / 静默与抢话统计。
  • 成本关键:质检是离线批处理——用便宜的批价模型(Qwen 系 flash 档)跑全量,可疑通话再用旗舰模型复核,两级漏斗把全量质检成本压到每通 <0.01 元级。
  • 不自建的选项:阿里云 SCA(15+ 算子 + 大模型模式,开箱即用)适合快速起步,但多语种(泰/印尼/葡西)覆盖需逐语种确认。

◆二、录音存储合规:同意、期限、跨境

↔ 各辖区要点 | 细则以当地法务意见为准,本表为工程设计输入

辖区录音同意规则保存期限要点工程含义
巴西 LGPD须明确告知并有合法依据;客户有权请求删除"必要期限"原则——超期必须删;长期全量保存本身即违规按用途分级 TTL(质检 6–12 个月、争议留证按诉讼时效)+ 到期自动删除任务
美国(分州)单方同意州 vs 全员同意州(加州等)并存行业法叠加(HIPAA/PCI 等)跨州外呼一律按全员同意设计:开场白播报"通话将被录音"
欧盟 GDPR明确同意或合法利益 + 告知目的限定 + 最小化PII 转写后文本层脱敏(级联架构在这层有天然接口)
墨西哥联邦数据保护法(LFPDPPP)告知义务类 LGPD 必要期限与 REPEP 名单 scrub 同一合规模块管理
东南亚各国新加坡 PDPA / 印尼 PDP Law / 菲律宾 DPA 均要求告知印尼 PDP 有本地化倾向(详见 SEA/拉美 LLM 报告合规章)录音存储区域跟着数据驻留要求走:印尼业务优先雅加达/新加坡区
中国个保法告知同意;金融行业双录行业惯例 6 个月–5 年(金融从严)国内业务线单独存储域,不与海外混池

工程设计三原则(按最严辖区一套走)

  1. 告知前置:所有外呼开场白模板内置录音告知句(分语种),并把"告知已播报"写入通话元数据——这是争议时的第一道证据。
  2. 分级 TTL + 自动删除:录音(原始音频)短 TTL、脱敏转写文本长 TTL——质检与模型训练用文本即可,音频尽早删,同时满足 LGPD 最小化与自训数据回流需求(注意:录音用于模型训练需要在告知/同意范围内明示,EOU/AMD 自训数据回流管线设计时必须包含这一项)。
  3. 脱敏在文本层:级联架构的转写文本是脱敏卡点——正则 + NER 打掉卡号/证件号后再入库;S2S 端到端模型没有这一层,这是编排框架报告判其不适合合规场景的同一论据。

⚠三、语音 Agent 安全:OWASP LLM Top 10 语音版

框架来自 OWASP Top 10 for LLM Applications 2025 + RedCaller 语音场景映射,按我们业务重排优先级

风险项语音场景形态对我们的优先级缓解手段
LLM01 提示词注入口述注入("忽略之前的指示…")、背景音注入、经 RAG 召回内容的间接注入、STT 特有向量(谐音/多语种混说绕过)P0系统提示与用户输入硬隔离;工具调用白名单;对"改指令类"话术模式检测拦截
LLM06 过度代理工具权限过宽:一通被注入的电话 = 直接操作 CRM/退款/转账P0工具最小权限 + 资金类操作强制二次验证(短信/APP 确认),Agent 只能"发起申请"不能"执行"
LLM10 无限消耗话费欺诈(toll fraud)、恶意长通话烧 API 额度、并发耗尽P0单通时长/token 硬上限、单号码频控、成本异常实时告警(与 AMD 报告的护栏同一套)
LLM02 敏感信息泄露TTS 把不该念的内容念出来(他人 PII、内部字段)P1输出前校验层:白名单字段才可进 TTS;身份未核验前不吐任何账户信息
LLM07 系统提示词套取角色扮演/假设句式电话套话术与业务规则P1提示词不放敏感逻辑(阈值/风控规则后端化);套取模式进质检禁语库
LLM09 幻觉误导电话的"权威感"放大幻觉伤害:编造政策/承诺赔付P1承诺类话术模板化 + RAG 溯源强制;质检 rubric 设"超范围承诺"红线项(与 qwen-bench 幻觉抑制维度衔接)
LLM03/04/08 供应链与数据投毒被投毒的第三方模型/知识库;客户可写数据源进 RAGP2供应商清单管理;知识库写入审核;向量库内容签名
LLM05 输出处理不当未校验的函数调用参数直通下游系统P2工具参数 schema 严校验 + 越权参数拒绝

声音克隆欺诈:攻防两个方向都与我们有关双向视角

  • 防守(呼入):我们的声纹核身会被打——deepfake 语音克隆已用于绕过银行声纹认证(业界标志案例:克隆声音骗过银行转走 $35M,Pindrop/Group-IB 均有分析)。含义:声纹(说话人识别)不能作为唯一核身因子,必须叠加反合成检测(anti-spoofing/liveness)——这正是 Media Center 报告"反合成"章节的落地理由,sherpa-onnx 声纹之上要加合成音检测层。
  • 合规(外呼):我们的 TTS 克隆音色要守规——克隆真人音色需取得授权并按辖区做合成内容标识(中国《人工智能生成合成内容标识办法》等),详见流式 TTS 报告"合规标识"章节;对外呼场景,部分辖区要求机器语音在开场披露"本通话由 AI 拨打"。
  • 红队自测:用 promptfoo(OWASP Agentic 红队框架)+ 自建合成呼叫测试(编排框架报告 §测试层)把注入/套取/长通话攻击做成回归用例,每次改提示词跑一遍。

架构级结论:级联架构的文本中间层同时是质检采集点、脱敏卡点、输出校验点、审计留痕点——安全与合规四个需求共用一层实现,这是对"级联为主"选型的第四重加固。

✓上线检查清单(P0 必做项)

  • ☐ 全语种开场白含录音告知 + (所需辖区)AI 披露句,播报事件写入元数据
  • ☐ 录音分级 TTL 与到期自动删除任务上线;训练用途写入告知文本
  • ☐ 转写文本 PII 脱敏(正则+NER)后才入库/进质检/进训练回流
  • ☐ LLM 全量质检两级漏斗(flash 全量 → 旗舰复核)+ 禁语/超范围承诺红线项
  • ☐ 四层观测接通(duplex-trace + OTel),TTFW/containment/TSR 看板与告警
  • ☐ 工具最小权限 + 资金操作二次验证 + 单通 token/时长硬上限与成本告警
  • ☐ 注入/套取/长通话红队用例进合成呼叫回归,提示词变更即触发
  • ☐ 呼入声纹核身叠加反合成检测,声纹不作唯一因子

与现有报告矩阵的衔接

离线转写选型见 开源 ASR 部署;声纹与反合成见 Media Center 对接方案;TTS 克隆合规见 流式 TTS 全景;数据驻留与各国数据法见 SEA/拉美大模型调研;级联架构论证与合成呼叫测试见 编排框架与 S2S。

↗来源链接