2026年,西北工业大学等机构的研究团队在 ICASSP 2026 发表了 WenetSpeech-Chuan,发布约10000小时川渝方言语音数据,并建立了相应的自动语音识别(ASR)评测基准。

这项研究有一个值得注意的发现:同样一套语音识别模型,在相对规整的朗读音频中表现尚可,但面对短视频、自然对话、影视语音等复杂场景时,字符错误率可能明显上升。

例如,SenseVoice-small 在 WenetSpeech-Chuan 的 Easy 测试集上,CER 为17.43%;而在 Hard 测试集上,错误率达到28.38%。

这个差距揭示了一个长期存在的问题:

通用 ASR 模型即使能够识别四川话,也不代表它已经适应真实生活中的川渝方言交流。

而随着语音技术逐渐进入医院问诊、智能机器人、无人零售、客服中心等场景,这种差异不再只是模型评测中的几个百分点,而可能直接影响业务系统能否准确理解用户。

一、10000小时川渝方言语料,为什么值得关注?

川渝地区大部分常见地方话属于西南官话,与普通话具有较近的语言关系。

但实际交流中,四川话、重庆话不仅包含地方发音,也包含大量具有地域特色的词汇、句式和语气表达。

例如:

这个事情要得,你帮我看一哈。

我昨天都打过电话了,咋个还没处理嘛?

那个东西莫得了,你看还有没得其他的?

这些话对于熟悉川渝方言的人来说并不难理解,但对主要使用标准普通话语料训练的 ASR 模型而言,却可能涉及两个不同的问题。

一是模型能否正确识别地方发音,二是解码器能否保留“要得”“咋个”“莫得”等原始表达,而不是将其替换成音近词或者直接转换成普通话。

过去,许多方言语音研究受到数据规模限制。开发者虽然能够找到部分四川话录音,但要获得足够规模、带有文本标注和语音质量信息的训练语料并不容易。

WenetSpeech-Chuan 改变了这一局面。

该项目提供约10000小时川渝方言语音,覆盖短视频、娱乐节目、直播、纪录片、有声读物、影视剧、访谈和新闻等多个内容领域。

除了音频及转写文本,数据还包含多种辅助信息:

数据字段技术用途
Text Confidence评估自动转写文本的可靠程度
Speaker ID区分不同说话人,辅助数据集划分
SNR衡量语音与背景噪声的相对强度
DNSMOS评估语音质量
Age / Gender分析说话人群体差异
Timestamp建立音频与文本的位置对应关系

这些信息并不是附属装饰。

对于方言模型训练来说,数据质量、说话人分布、声学环境与文本规范,都可能影响最终识别效果。

例如,医院问诊系统需要适应老年患者的自然发音,客服系统需要处理电话线路音频,而机器人则可能面对远场拾音和设备噪声。

如果训练数据只包含安静环境中的朗读语音,即使数据规模很大,也未必能够充分覆盖上述场景。

二、模型测试结果:为什么自然对话比朗读更难?

WenetSpeech-Chuan 研究团队建立了 WSC-Eval-ASR 评测集,并按照音频来源和声学环境分成 Easy、Hard 两部分。

其中 Easy 主要包含有声读物、朗读等相对规整的语音,总时长8.55小时;Hard 则包含短视频、娱乐节目、影视剧等更复杂的内容,总时长1.15小时。

两部分合计约9.7小时。

以下是官方公布的部分 ASR 测试结果:

模型Easy CERHard CER
SenseVoice-small17.43%28.38%
Paraformer14.34%24.61%
FireRedASR-AED13.29%23.64%
Qwen2.5-Omni16.94%26.01%
Paraformer-WSC-Finetune12.15%22.60%
Qwen2.5-Omni-WSC-Finetune14.36%24.14%

数据来源:WenetSpeech-Chuan 官方 ASR Leaderboard。CER 即字符错误率,数值越低表示识别错误越少。

从表中可以看出几个比较明确的现象。

首先,不同模型在 Hard 测试集上的错误率普遍明显高于 Easy。

以 SenseVoice-small 为例,CER 从17.43%上升至28.38%,相对增幅约62.8%。

其次,经过 WenetSpeech-Chuan 数据微调的模型,在相同测试集上表现出了改善。

例如 Paraformer 在 Easy 测试集上的 CER 从14.34%降低至12.15%,Hard 测试集则从24.61%降低至22.60%。

Qwen2.5-Omni 的对应结果也出现改善。

这些数字说明,针对川渝方言进行专项训练,即使不简单依靠增加模型规模,也有机会提高目标场景的识别能力。

不过,不能把 Easy 与 Hard 的差异全部归因于噪声。两组数据还存在语音内容、表达方式、说话人和录音来源等差异。

对于实际应用来说,这恰好是最值得关注的地方。

真实世界里的语音很少像测试录音那样规整。

患者描述症状时可能反复停顿,客户投诉时可能语速加快,机器人面对的语音可能夹杂环境声音,而无人零售设备还需要处理短促、不完整的口语指令。

所以,方言 ASR 的实际难点并不只是能否听懂某几个地方词汇,而是如何在复杂输入下持续保持稳定识别。

三、从自动标注到 LLM-GER:如何提高方言训练数据质量?

WenetSpeech-Chuan 并不是简单地收集10000小时音频,然后全部交给一个模型进行训练。

研究团队还设计了 Chuan-Pipeline,用于完成大规模方言语料的处理和标注。

其核心流程包括音频收集、说话人属性分析、语音质量分析、自动转写、文本后处理和多模型结果融合。

整体流程可以概括为:

川渝方言原始音频
        ↓
    音频切分与清洗
        ↓
  说话人及音频质量分析
        ↓
  多模型自动语音识别
        │
  ┌─────┼─────┐
  ↓     ↓     ↓
SenseVoice TeleASR FireRed-ASR
  │     │     │
  └─────┼─────┘
        ↓
    LLM-GER 纠错
        ↓
  转写一致性与置信度评估
        ↓
    训练语料筛选
        ↓
    川渝方言专项微调

其中比较值得研究的是 LLM-GER(LLM Generative Error Correction)。

传统 ROVER 方法通常通过对多个 ASR 模型的输出进行对齐和投票,减少单个模型的识别错误。

但在方言场景中,几个模型可能对同一个地方词汇输出完全不同的文字。

例如原始语音是:

这个设备莫得反应了。

三个模型可能产生不同的候选:

ASR A:这个设备没得反应了。
ASR B:这个设备没有反应了。
ASR C:这个设备莫得反应了。

这组候选是用于解释算法的模拟示例。

如果目标是保留川渝方言原文,第三种转写方式可能更加符合标注规范;如果目标是生成普通话文本,则第二种表达也能够保留基本语义。

因此,文本纠错需要先明确输出目标,不能单纯追求句子通顺。

WenetSpeech-Chuan 使用多套 ASR 模型生成识别候选,再利用 Qwen3 进行生成式纠错,并结合候选结果计算文本置信度。

对于方言专项训练,这种方法有一个重要作用:在人工标注资源有限的情况下,利用多个模型生成更可靠的候选文本,再通过质量筛选降低错误标签对训练的影响。

当然,语言模型并不能直接替代音频证据。

如果几个 ASR 模型都漏掉了“莫得”这样的否定表达,后续 LLM 仍然可能生成错误文本。

因此,涉及否定词、数字、金额和关键实体的音频,仍然值得在训练和评测中进行重点检查。

四、医院问诊:患者讲四川话,电子病历应该怎么记录?

方言 ASR 的实际价值,在医院和基层医疗场景中比较容易理解。

假设一位老年患者来到社区卫生服务中心,医生询问最近身体有什么不舒服。

患者回答:

这几天老是觉得心口闷得很,晚上睡觉有点喘,但是没得胸痛。

对于医生而言,这段表达并不难理解。

但如果使用语音系统辅助记录病历,处理过程就不只是把音频转成文字。

首先,ASR 需要准确保留原始描述,尤其是“没得胸痛”中的否定信息。

其次,系统需要区分医生提问和患者陈述,避免把医生询问的症状错误记录成患者已经存在的症状。

最后,医学文本处理模块才能进一步提取主诉、症状和相关病程信息。

一种可行的架构是:

诊室麦克风
    ↓
VAD / 音频预处理
    ↓
川渝方言 ASR
    ↓
医患角色区分
    ↓
原始转写文本
    ↓
医学术语规范化
    ↓
临床信息结构化
    ↓
医生审核
    ↓
电子病历系统

结构化输出可以采用以下形式:

{
  "speaker": "patient",
  "original_text": "这几天老是觉得心口闷得很,晚上睡觉有点喘,但是没得胸痛",
  "normalized_text": "患者自述近日胸部憋闷,夜间出现气喘感,否认胸痛",
  "clinical_information": {
    "symptoms": ["胸部憋闷", "夜间气喘感"],
    "negative_symptoms": ["胸痛"],
    "duration": "近日"
  },
  "requires_review": true
}

其中,ASR 负责保留语音内容,医学信息提取和病历规范化则由上层系统处理。

对于可能影响临床判断的表达,还应保留原始音频和对应文本,供医生审核确认。

这类应用还有一个实际的部署问题:医患交流包含敏感健康信息。

因此,医疗机构可以根据现有信息系统架构,选择医院内网集中推理或者诊室工作站端侧离线识别,使音频处理在受控环境内完成。

但离线部署并不代替权限管理、数据加密和审计要求。

五、智能机器人:川渝方言不能只停留在“听懂文字”

对于服务机器人、配送机器人和工业辅助机器人,语音识别通常只是整套交互系统的第一步。

例如,在一个仓储环境中,工作人员向机器人下达指令:

你先把三号货架那个箱子搬过来,等一哈,先莫动。

这句话包含动作目标、设备对象以及后续的否定指令。

如果 ASR 只识别了前半句,却漏掉“先莫动”,那么后续控制系统就可能错误理解用户的实际意图。

因此,机器人语音交互不应该简单设计成:

ASR → 立即执行动作

更合理的方式是:

麦克风阵列
    ↓
降噪 / VAD
    ↓
川渝方言 ASR
    ↓
意图识别与参数提取
    ↓
业务状态检查
    ↓
指令确认与安全校验
    ↓
机器人执行

在这套系统中,ASR 需要处理自然方言、口语停顿和临时修正;意图识别模块负责理解用户究竟要求机器人做什么。

对于涉及移动、搬运或机械动作的指令,还需要独立的安全控制逻辑,不能因为语音识别结果看起来通顺就直接执行。

从硬件角度看,这类设备也经常需要考虑网络条件。

例如仓库、生产车间或者部分移动终端可能存在网络覆盖不稳定的情况。将川渝方言 ASR 部署在端侧,可以减少语音指令对公网接口的依赖。

但端侧模型还需要平衡实时性、内存占用和推理算力。

因此,机器人厂商更需要的是能够嵌入原有系统的语音识别模块,而不只是一个独立录音转写软件。

六、无人超市:语音识别能不能解决自助购物中的交互障碍?

无人零售也是一个值得关注的场景。

目前,许多自助收银终端主要依靠触摸屏、扫码和图形界面完成操作。但在实际使用中,部分用户可能不熟悉界面流程,或者临时遇到优惠券、商品识别和付款问题。

如果终端增加语音交互能力,用户便可以直接提出问题。

例如:

这个优惠券咋个用嘛?

我扫了码,咋个还没得扣钱?

那个酸奶放在哪个位置?

这些表达都带有明显的川渝地区口语特点。

此时,系统需要完成的不是简单的语音转写,而是:

用户语音
    ↓
本地 ASR
    ↓
意图识别
    ↓
业务系统查询
    ↓
执行操作或返回帮助信息

例如,“这个优惠券咋个用嘛”需要被映射到优惠券使用说明,而“我扫了码,咋个还没得扣钱”则可能涉及支付状态查询。

两句话看起来都是普通咨询,但对应的业务接口完全不同。

更重要的是,ASR 需要保留“还没得扣钱”这一否定状态。

如果识别错误,系统可能把“尚未付款”理解成“已经付款”,进而返回错误的操作提示。

对于无人零售设备,语音能力还可能需要运行在资源有限的终端上。

因此,一种可行方案是将轻量化 ASR、简单意图识别和本地提示能力部署在设备端,而将库存、订单、支付状态等业务查询交给原有系统。

涉及实际支付和订单修改时,仍然需要通过屏幕或其他可靠机制让用户确认。

这样既能够提供更符合本地语言习惯的交互方式,也不必重新设计整套无人零售系统。

七、人工客服:ASR 不一定替代客服,也可以成为客服的辅助工具

相较于完全自动化的语音机器人,人工客服其实也是川渝方言 ASR 很有价值的应用方向。

例如,一位客户拨打服务热线:

我上个礼拜就反映过这个事情了,咋个到现在都还没得处理嘛?

人工客服通常能够根据上下文理解客户的意思,但要进一步生成工单,还需要记录投诉事项、发生时间、当前处理状态以及客户诉求。

如果系统能够实时识别通话内容,就可以在客服工作台中显示转写文本,并通过后续的大模型分析辅助整理工单。

业务流程可以设计为:

客服通话录音
      ↓
川渝方言 ASR
      ↓
客服 / 客户角色区分
      ↓
结构化通话文本
      ↓
诉求提取与工单建议
      ↓
人工客服审核
      ↓
CRM / 工单系统

例如,系统可以从前面的通话中提取:

{
  "intent": "投诉处理进度查询",
  "complaint_type": "重复投诉",
  "customer_statement": "上周已经反馈问题,目前仍未处理",
  "required_action": "查询历史工单及处理状态",
  "evidence_text": "我上个礼拜就反映过这个事情了,咋个到现在都还没得处理嘛"
}

对于客服来说,这种能力主要用于减少重复记录工作,而不是代替人工完成所有业务判断。

后续还可以增加服务质检、关键词检索和投诉分类等功能。

但整个流程的基础仍然是 ASR。

如果模型连客户的原始表达都无法准确还原,那么后续的大模型即使能够生成流畅的工单,也可能遗漏关键事实。

这也是川渝方言专项训练对客服场景具有实际价值的原因。

八、从开源模型到企业级语音能力,需要补齐哪些环节?

WenetSpeech-Chuan 的重要价值,在于为川渝方言识别提供了更大规模的训练数据和统一评测依据。

但对于医疗软件、机器人、零售终端和客服系统厂商来说,开源模型只是技术基础。

真正需要交付的通常是一套能够被现有系统调用的语音能力。

例如,一个完整的企业语音模块,可能需要包含:

第三方业务软件 / 智能终端
             ↓
       音频采集与预处理
             ↓
        VAD / 降噪
             ↓
        川渝方言 ASR
             ↓
      专业词汇与文本规整
             ↓
       结构化识别结果
             ↓
         原有业务系统

对于不同应用,交付形态也可能存在差异。

应用场景主要需求适合的部署方式
医院问诊方言转写、信息保护端侧或医院内网
智能机器人低延迟、指令识别端侧离线 ASR
无人零售自然语音交互本地模块 + 业务接口
人工客服实时转写、批量录音分析企业内网集中部署

在实际供应市场中,除了自行部署开源模型,也可以直接将已有的方言语音能力集成到业务产品中。

熙瑾信息提供的 ASR 技术覆盖川渝方言等地区语言场景,相关语音能力经过 CNAS 认可实验室检测,支持多达25种方言,并具备端侧、离线及模块化集成能力。

对于已经开发好医疗工作站、智能机器人、零售终端或者客服平台的软件厂商来说,这种独立语音模块的价值在于,不需要重新建设完整的语音应用,而是直接补充原有系统所缺少的方言转写能力。

不过,方言能力覆盖范围、识别准确率和业务场景适配仍然属于不同的评价维度。具体项目需要根据目标地区的自然语音、设备条件以及业务词汇开展验证。

例如医院需要重点检查症状、否定词和药物名称;机器人需要关注短指令和连续口语修正;客服系统则需要重点评估自然对话、地方词汇以及关键业务信息。

因此,企业级方言 ASR 的工程价值不仅来自模型本身,还来自可独立部署、可复用以及能够与既有业务系统稳定集成的能力。

九、方言 ASR 应该怎样建立更贴近实际业务的评测体系?

如果要真正评价一套川渝方言识别系统,单独使用 WenetSpeech-Chuan 的公开基准还不够。

公开数据集适合评估通用方言能力,但具体业务环境还可能存在不同的声学条件和专业词汇。

可以在通用 CER 之外,增加面向具体场景的专项评测:

业务场景主要测试内容核心指标
医院问诊症状、药名、否定表达关键医学信息准确率
智能机器人指令词、参数、取消命令指令识别正确率
无人零售商品名称、支付状态、操作咨询意图与关键字段正确率
人工客服自然对话、金额、投诉事项CER、关键实体召回率

尤其值得关注的是,不能只根据整体字符错误率判断业务可用性。

例如一句话:

这个订单还没得付款。

如果系统错误输出“这个订单已经付款”,可能只涉及少量字符错误,但整个业务状态已经发生变化。

针对这类问题,可以建立关键语义检查机制。

下面是一段简单的 Python 测试代码,用于从人工标注的转写结果中检查指定关键表达是否被保留:

samples = [
    {
        "scene": "hospital",
        "reference": "我没得胸痛就是有点气紧",
        "hypothesis": "我没得胸痛就是有点气紧",
        "key_terms": ["没得", "气紧"]
    },
    {
        "scene": "retail",
        "reference": "我扫码了还没得扣钱",
        "hypothesis": "我扫码了已经扣钱",
        "key_terms": ["没得"]
    },
    {
        "scene": "customer_service",
        "reference": "这个事情咋个还没处理",
        "hypothesis": "这个事情怎么还没处理",
        "key_terms": ["咋个", "没"]
    }
]

for item in samples:
    missing = [
        term for term in item["key_terms"]
        if term not in item["hypothesis"]
    ]

    print({
        "scene": item["scene"],
        "missing_terms": missing,
        "needs_review": bool(missing)
    })

输出中的 needs_review 可以用来提示某段转写是否需要进一步检查。

这段代码用于说明一种基础的关键表达检查方法。正式系统还需要考虑词语位置、同义表达、重复出现以及语义范围等问题。

例如,“没得”与“没有”在某些上下文中可能表达相同含义,不能把所有文本形式差异都认定为业务错误。

但对于医疗、支付和机器人控制等场景,涉及否定、数字和操作状态的语音,仍然应当设计独立的核验机制。

只有将通用识别指标与实际业务中的关键语义指标结合起来,才能更准确地评价一套方言 ASR 是否真正可用。

十、总结:方言语音识别正在从模型研究走向业务系统

WenetSpeech-Chuan 的发布,为川渝方言识别提供了大规模语料、统一测试基准以及更加完整的数据处理流程。

从官方实验结果可以看到,现有通用 ASR 模型在复杂川渝方言语音上仍然存在明显的优化空间,而针对目标方言进行专项训练,能够在相同测试条件下改善识别效果。

但对于实际业务而言,识别准确率并不是唯一需要解决的问题。

医院关心的是患者症状有没有被准确记录,机器人关心的是指令是否被正确理解,无人零售设备关心的是用户是否能够顺利完成操作,人工客服则关心通话内容能否准确转化为业务记录。

这些场景看似差别很大,背后却有一个共同需求:

让使用者能够继续按照自己熟悉的语言习惯交流,而不必为了适应软件刻意改说标准普通话。

从这个角度看,川渝方言 ASR 的下一步不仅是继续扩大训练语料、降低 CER,更是通过专项模型、端侧离线推理和模块化接口,让方言识别成为可以嵌入各类业务系统的基础语音能力。

当语音识别能够准确理解真实生活中那些带着地方表达、口语停顿和自然语气的声音时,方言 AI 才真正具备走向更广泛应用场景的条件。


参考资料

  1. Dai, Y., et al. (2026). WenetSpeech-Chuan: A Large-Scale Sichuanese Corpus with Rich Annotation for Dialectal Speech Processing. ICASSP 2026.
    https://arxiv.org/abs/2509.18004

  2. WenetSpeech-Chuan 官方 GitHub,包含数据集、模型与 Chuan-Pipeline。
    https://github.com/ASLP-lab/WenetSpeech-Chuan

  3. WenetSpeech-Chuan 项目主页,包含 ASR Leaderboard 与评测基准。
    https://aslp-lab.github.io/WenetSpeech-Chuan/

  4. WenetSpeech-Chuan ASR 模型与推理说明。
    https://huggingface.co/ASLP-lab/WSChuan-ASR

  5. WSC-Eval-ASR 川渝方言评测集及相关资源,可通过官方项目仓库访问。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐