10000小时川渝方言语料开源:通用 ASR 为什么仍然需要专项训练?
2026年,西北工业大学等机构的研究团队在 ICASSP 2026 发表了 WenetSpeech-Chuan,发布约10000小时川渝方言语音数据,并建立了相应的自动语音识别(ASR)评测基准。
这项研究有一个值得注意的发现:同样一套语音识别模型,在相对规整的朗读音频中表现尚可,但面对短视频、自然对话、影视语音等复杂场景时,字符错误率可能明显上升。
例如,SenseVoice-small 在 WenetSpeech-Chuan 的 Easy 测试集上,CER 为17.43%;而在 Hard 测试集上,错误率达到28.38%。
这个差距揭示了一个长期存在的问题:
通用 ASR 模型即使能够识别四川话,也不代表它已经适应真实生活中的川渝方言交流。
而随着语音技术逐渐进入医院问诊、智能机器人、无人零售、客服中心等场景,这种差异不再只是模型评测中的几个百分点,而可能直接影响业务系统能否准确理解用户。
一、10000小时川渝方言语料,为什么值得关注?
川渝地区大部分常见地方话属于西南官话,与普通话具有较近的语言关系。
但实际交流中,四川话、重庆话不仅包含地方发音,也包含大量具有地域特色的词汇、句式和语气表达。
例如:
这个事情要得,你帮我看一哈。
我昨天都打过电话了,咋个还没处理嘛?
那个东西莫得了,你看还有没得其他的?
这些话对于熟悉川渝方言的人来说并不难理解,但对主要使用标准普通话语料训练的 ASR 模型而言,却可能涉及两个不同的问题。
一是模型能否正确识别地方发音,二是解码器能否保留“要得”“咋个”“莫得”等原始表达,而不是将其替换成音近词或者直接转换成普通话。
过去,许多方言语音研究受到数据规模限制。开发者虽然能够找到部分四川话录音,但要获得足够规模、带有文本标注和语音质量信息的训练语料并不容易。
WenetSpeech-Chuan 改变了这一局面。
该项目提供约10000小时川渝方言语音,覆盖短视频、娱乐节目、直播、纪录片、有声读物、影视剧、访谈和新闻等多个内容领域。
除了音频及转写文本,数据还包含多种辅助信息:
| 数据字段 | 技术用途 |
|---|---|
| Text Confidence | 评估自动转写文本的可靠程度 |
| Speaker ID | 区分不同说话人,辅助数据集划分 |
| SNR | 衡量语音与背景噪声的相对强度 |
| DNSMOS | 评估语音质量 |
| Age / Gender | 分析说话人群体差异 |
| Timestamp | 建立音频与文本的位置对应关系 |
这些信息并不是附属装饰。
对于方言模型训练来说,数据质量、说话人分布、声学环境与文本规范,都可能影响最终识别效果。
例如,医院问诊系统需要适应老年患者的自然发音,客服系统需要处理电话线路音频,而机器人则可能面对远场拾音和设备噪声。
如果训练数据只包含安静环境中的朗读语音,即使数据规模很大,也未必能够充分覆盖上述场景。
二、模型测试结果:为什么自然对话比朗读更难?
WenetSpeech-Chuan 研究团队建立了 WSC-Eval-ASR 评测集,并按照音频来源和声学环境分成 Easy、Hard 两部分。
其中 Easy 主要包含有声读物、朗读等相对规整的语音,总时长8.55小时;Hard 则包含短视频、娱乐节目、影视剧等更复杂的内容,总时长1.15小时。
两部分合计约9.7小时。
以下是官方公布的部分 ASR 测试结果:
| 模型 | Easy CER | Hard CER |
|---|---|---|
| SenseVoice-small | 17.43% | 28.38% |
| Paraformer | 14.34% | 24.61% |
| FireRedASR-AED | 13.29% | 23.64% |
| Qwen2.5-Omni | 16.94% | 26.01% |
| Paraformer-WSC-Finetune | 12.15% | 22.60% |
| Qwen2.5-Omni-WSC-Finetune | 14.36% | 24.14% |
数据来源:WenetSpeech-Chuan 官方 ASR Leaderboard。CER 即字符错误率,数值越低表示识别错误越少。
从表中可以看出几个比较明确的现象。
首先,不同模型在 Hard 测试集上的错误率普遍明显高于 Easy。
以 SenseVoice-small 为例,CER 从17.43%上升至28.38%,相对增幅约62.8%。
其次,经过 WenetSpeech-Chuan 数据微调的模型,在相同测试集上表现出了改善。
例如 Paraformer 在 Easy 测试集上的 CER 从14.34%降低至12.15%,Hard 测试集则从24.61%降低至22.60%。
Qwen2.5-Omni 的对应结果也出现改善。
这些数字说明,针对川渝方言进行专项训练,即使不简单依靠增加模型规模,也有机会提高目标场景的识别能力。
不过,不能把 Easy 与 Hard 的差异全部归因于噪声。两组数据还存在语音内容、表达方式、说话人和录音来源等差异。
对于实际应用来说,这恰好是最值得关注的地方。
真实世界里的语音很少像测试录音那样规整。
患者描述症状时可能反复停顿,客户投诉时可能语速加快,机器人面对的语音可能夹杂环境声音,而无人零售设备还需要处理短促、不完整的口语指令。
所以,方言 ASR 的实际难点并不只是能否听懂某几个地方词汇,而是如何在复杂输入下持续保持稳定识别。
三、从自动标注到 LLM-GER:如何提高方言训练数据质量?
WenetSpeech-Chuan 并不是简单地收集10000小时音频,然后全部交给一个模型进行训练。
研究团队还设计了 Chuan-Pipeline,用于完成大规模方言语料的处理和标注。
其核心流程包括音频收集、说话人属性分析、语音质量分析、自动转写、文本后处理和多模型结果融合。
整体流程可以概括为:
川渝方言原始音频
↓
音频切分与清洗
↓
说话人及音频质量分析
↓
多模型自动语音识别
│
┌─────┼─────┐
↓ ↓ ↓
SenseVoice TeleASR FireRed-ASR
│ │ │
└─────┼─────┘
↓
LLM-GER 纠错
↓
转写一致性与置信度评估
↓
训练语料筛选
↓
川渝方言专项微调
其中比较值得研究的是 LLM-GER(LLM Generative Error Correction)。
传统 ROVER 方法通常通过对多个 ASR 模型的输出进行对齐和投票,减少单个模型的识别错误。
但在方言场景中,几个模型可能对同一个地方词汇输出完全不同的文字。
例如原始语音是:
这个设备莫得反应了。
三个模型可能产生不同的候选:
ASR A:这个设备没得反应了。
ASR B:这个设备没有反应了。
ASR C:这个设备莫得反应了。
这组候选是用于解释算法的模拟示例。
如果目标是保留川渝方言原文,第三种转写方式可能更加符合标注规范;如果目标是生成普通话文本,则第二种表达也能够保留基本语义。
因此,文本纠错需要先明确输出目标,不能单纯追求句子通顺。
WenetSpeech-Chuan 使用多套 ASR 模型生成识别候选,再利用 Qwen3 进行生成式纠错,并结合候选结果计算文本置信度。
对于方言专项训练,这种方法有一个重要作用:在人工标注资源有限的情况下,利用多个模型生成更可靠的候选文本,再通过质量筛选降低错误标签对训练的影响。
当然,语言模型并不能直接替代音频证据。
如果几个 ASR 模型都漏掉了“莫得”这样的否定表达,后续 LLM 仍然可能生成错误文本。
因此,涉及否定词、数字、金额和关键实体的音频,仍然值得在训练和评测中进行重点检查。
四、医院问诊:患者讲四川话,电子病历应该怎么记录?
方言 ASR 的实际价值,在医院和基层医疗场景中比较容易理解。
假设一位老年患者来到社区卫生服务中心,医生询问最近身体有什么不舒服。
患者回答:
这几天老是觉得心口闷得很,晚上睡觉有点喘,但是没得胸痛。
对于医生而言,这段表达并不难理解。
但如果使用语音系统辅助记录病历,处理过程就不只是把音频转成文字。
首先,ASR 需要准确保留原始描述,尤其是“没得胸痛”中的否定信息。
其次,系统需要区分医生提问和患者陈述,避免把医生询问的症状错误记录成患者已经存在的症状。
最后,医学文本处理模块才能进一步提取主诉、症状和相关病程信息。
一种可行的架构是:
诊室麦克风
↓
VAD / 音频预处理
↓
川渝方言 ASR
↓
医患角色区分
↓
原始转写文本
↓
医学术语规范化
↓
临床信息结构化
↓
医生审核
↓
电子病历系统
结构化输出可以采用以下形式:
{
"speaker": "patient",
"original_text": "这几天老是觉得心口闷得很,晚上睡觉有点喘,但是没得胸痛",
"normalized_text": "患者自述近日胸部憋闷,夜间出现气喘感,否认胸痛",
"clinical_information": {
"symptoms": ["胸部憋闷", "夜间气喘感"],
"negative_symptoms": ["胸痛"],
"duration": "近日"
},
"requires_review": true
}
其中,ASR 负责保留语音内容,医学信息提取和病历规范化则由上层系统处理。
对于可能影响临床判断的表达,还应保留原始音频和对应文本,供医生审核确认。
这类应用还有一个实际的部署问题:医患交流包含敏感健康信息。
因此,医疗机构可以根据现有信息系统架构,选择医院内网集中推理或者诊室工作站端侧离线识别,使音频处理在受控环境内完成。
但离线部署并不代替权限管理、数据加密和审计要求。
五、智能机器人:川渝方言不能只停留在“听懂文字”
对于服务机器人、配送机器人和工业辅助机器人,语音识别通常只是整套交互系统的第一步。
例如,在一个仓储环境中,工作人员向机器人下达指令:
你先把三号货架那个箱子搬过来,等一哈,先莫动。
这句话包含动作目标、设备对象以及后续的否定指令。
如果 ASR 只识别了前半句,却漏掉“先莫动”,那么后续控制系统就可能错误理解用户的实际意图。
因此,机器人语音交互不应该简单设计成:
ASR → 立即执行动作
更合理的方式是:
麦克风阵列
↓
降噪 / VAD
↓
川渝方言 ASR
↓
意图识别与参数提取
↓
业务状态检查
↓
指令确认与安全校验
↓
机器人执行
在这套系统中,ASR 需要处理自然方言、口语停顿和临时修正;意图识别模块负责理解用户究竟要求机器人做什么。
对于涉及移动、搬运或机械动作的指令,还需要独立的安全控制逻辑,不能因为语音识别结果看起来通顺就直接执行。
从硬件角度看,这类设备也经常需要考虑网络条件。
例如仓库、生产车间或者部分移动终端可能存在网络覆盖不稳定的情况。将川渝方言 ASR 部署在端侧,可以减少语音指令对公网接口的依赖。
但端侧模型还需要平衡实时性、内存占用和推理算力。
因此,机器人厂商更需要的是能够嵌入原有系统的语音识别模块,而不只是一个独立录音转写软件。
六、无人超市:语音识别能不能解决自助购物中的交互障碍?
无人零售也是一个值得关注的场景。
目前,许多自助收银终端主要依靠触摸屏、扫码和图形界面完成操作。但在实际使用中,部分用户可能不熟悉界面流程,或者临时遇到优惠券、商品识别和付款问题。
如果终端增加语音交互能力,用户便可以直接提出问题。
例如:
这个优惠券咋个用嘛?
我扫了码,咋个还没得扣钱?
那个酸奶放在哪个位置?
这些表达都带有明显的川渝地区口语特点。
此时,系统需要完成的不是简单的语音转写,而是:
用户语音
↓
本地 ASR
↓
意图识别
↓
业务系统查询
↓
执行操作或返回帮助信息
例如,“这个优惠券咋个用嘛”需要被映射到优惠券使用说明,而“我扫了码,咋个还没得扣钱”则可能涉及支付状态查询。
两句话看起来都是普通咨询,但对应的业务接口完全不同。
更重要的是,ASR 需要保留“还没得扣钱”这一否定状态。
如果识别错误,系统可能把“尚未付款”理解成“已经付款”,进而返回错误的操作提示。
对于无人零售设备,语音能力还可能需要运行在资源有限的终端上。
因此,一种可行方案是将轻量化 ASR、简单意图识别和本地提示能力部署在设备端,而将库存、订单、支付状态等业务查询交给原有系统。
涉及实际支付和订单修改时,仍然需要通过屏幕或其他可靠机制让用户确认。
这样既能够提供更符合本地语言习惯的交互方式,也不必重新设计整套无人零售系统。
七、人工客服:ASR 不一定替代客服,也可以成为客服的辅助工具
相较于完全自动化的语音机器人,人工客服其实也是川渝方言 ASR 很有价值的应用方向。
例如,一位客户拨打服务热线:
我上个礼拜就反映过这个事情了,咋个到现在都还没得处理嘛?
人工客服通常能够根据上下文理解客户的意思,但要进一步生成工单,还需要记录投诉事项、发生时间、当前处理状态以及客户诉求。
如果系统能够实时识别通话内容,就可以在客服工作台中显示转写文本,并通过后续的大模型分析辅助整理工单。
业务流程可以设计为:
客服通话录音
↓
川渝方言 ASR
↓
客服 / 客户角色区分
↓
结构化通话文本
↓
诉求提取与工单建议
↓
人工客服审核
↓
CRM / 工单系统
例如,系统可以从前面的通话中提取:
{
"intent": "投诉处理进度查询",
"complaint_type": "重复投诉",
"customer_statement": "上周已经反馈问题,目前仍未处理",
"required_action": "查询历史工单及处理状态",
"evidence_text": "我上个礼拜就反映过这个事情了,咋个到现在都还没得处理嘛"
}
对于客服来说,这种能力主要用于减少重复记录工作,而不是代替人工完成所有业务判断。
后续还可以增加服务质检、关键词检索和投诉分类等功能。
但整个流程的基础仍然是 ASR。
如果模型连客户的原始表达都无法准确还原,那么后续的大模型即使能够生成流畅的工单,也可能遗漏关键事实。
这也是川渝方言专项训练对客服场景具有实际价值的原因。
八、从开源模型到企业级语音能力,需要补齐哪些环节?
WenetSpeech-Chuan 的重要价值,在于为川渝方言识别提供了更大规模的训练数据和统一评测依据。
但对于医疗软件、机器人、零售终端和客服系统厂商来说,开源模型只是技术基础。
真正需要交付的通常是一套能够被现有系统调用的语音能力。
例如,一个完整的企业语音模块,可能需要包含:
第三方业务软件 / 智能终端
↓
音频采集与预处理
↓
VAD / 降噪
↓
川渝方言 ASR
↓
专业词汇与文本规整
↓
结构化识别结果
↓
原有业务系统
对于不同应用,交付形态也可能存在差异。
| 应用场景 | 主要需求 | 适合的部署方式 |
|---|---|---|
| 医院问诊 | 方言转写、信息保护 | 端侧或医院内网 |
| 智能机器人 | 低延迟、指令识别 | 端侧离线 ASR |
| 无人零售 | 自然语音交互 | 本地模块 + 业务接口 |
| 人工客服 | 实时转写、批量录音分析 | 企业内网集中部署 |
在实际供应市场中,除了自行部署开源模型,也可以直接将已有的方言语音能力集成到业务产品中。
熙瑾信息提供的 ASR 技术覆盖川渝方言等地区语言场景,相关语音能力经过 CNAS 认可实验室检测,支持多达25种方言,并具备端侧、离线及模块化集成能力。
对于已经开发好医疗工作站、智能机器人、零售终端或者客服平台的软件厂商来说,这种独立语音模块的价值在于,不需要重新建设完整的语音应用,而是直接补充原有系统所缺少的方言转写能力。
不过,方言能力覆盖范围、识别准确率和业务场景适配仍然属于不同的评价维度。具体项目需要根据目标地区的自然语音、设备条件以及业务词汇开展验证。
例如医院需要重点检查症状、否定词和药物名称;机器人需要关注短指令和连续口语修正;客服系统则需要重点评估自然对话、地方词汇以及关键业务信息。
因此,企业级方言 ASR 的工程价值不仅来自模型本身,还来自可独立部署、可复用以及能够与既有业务系统稳定集成的能力。
九、方言 ASR 应该怎样建立更贴近实际业务的评测体系?
如果要真正评价一套川渝方言识别系统,单独使用 WenetSpeech-Chuan 的公开基准还不够。
公开数据集适合评估通用方言能力,但具体业务环境还可能存在不同的声学条件和专业词汇。
可以在通用 CER 之外,增加面向具体场景的专项评测:
| 业务场景 | 主要测试内容 | 核心指标 |
|---|---|---|
| 医院问诊 | 症状、药名、否定表达 | 关键医学信息准确率 |
| 智能机器人 | 指令词、参数、取消命令 | 指令识别正确率 |
| 无人零售 | 商品名称、支付状态、操作咨询 | 意图与关键字段正确率 |
| 人工客服 | 自然对话、金额、投诉事项 | CER、关键实体召回率 |
尤其值得关注的是,不能只根据整体字符错误率判断业务可用性。
例如一句话:
这个订单还没得付款。
如果系统错误输出“这个订单已经付款”,可能只涉及少量字符错误,但整个业务状态已经发生变化。
针对这类问题,可以建立关键语义检查机制。
下面是一段简单的 Python 测试代码,用于从人工标注的转写结果中检查指定关键表达是否被保留:
samples = [
{
"scene": "hospital",
"reference": "我没得胸痛就是有点气紧",
"hypothesis": "我没得胸痛就是有点气紧",
"key_terms": ["没得", "气紧"]
},
{
"scene": "retail",
"reference": "我扫码了还没得扣钱",
"hypothesis": "我扫码了已经扣钱",
"key_terms": ["没得"]
},
{
"scene": "customer_service",
"reference": "这个事情咋个还没处理",
"hypothesis": "这个事情怎么还没处理",
"key_terms": ["咋个", "没"]
}
]
for item in samples:
missing = [
term for term in item["key_terms"]
if term not in item["hypothesis"]
]
print({
"scene": item["scene"],
"missing_terms": missing,
"needs_review": bool(missing)
})
输出中的 needs_review 可以用来提示某段转写是否需要进一步检查。
这段代码用于说明一种基础的关键表达检查方法。正式系统还需要考虑词语位置、同义表达、重复出现以及语义范围等问题。
例如,“没得”与“没有”在某些上下文中可能表达相同含义,不能把所有文本形式差异都认定为业务错误。
但对于医疗、支付和机器人控制等场景,涉及否定、数字和操作状态的语音,仍然应当设计独立的核验机制。
只有将通用识别指标与实际业务中的关键语义指标结合起来,才能更准确地评价一套方言 ASR 是否真正可用。
十、总结:方言语音识别正在从模型研究走向业务系统
WenetSpeech-Chuan 的发布,为川渝方言识别提供了大规模语料、统一测试基准以及更加完整的数据处理流程。
从官方实验结果可以看到,现有通用 ASR 模型在复杂川渝方言语音上仍然存在明显的优化空间,而针对目标方言进行专项训练,能够在相同测试条件下改善识别效果。
但对于实际业务而言,识别准确率并不是唯一需要解决的问题。
医院关心的是患者症状有没有被准确记录,机器人关心的是指令是否被正确理解,无人零售设备关心的是用户是否能够顺利完成操作,人工客服则关心通话内容能否准确转化为业务记录。
这些场景看似差别很大,背后却有一个共同需求:
让使用者能够继续按照自己熟悉的语言习惯交流,而不必为了适应软件刻意改说标准普通话。
从这个角度看,川渝方言 ASR 的下一步不仅是继续扩大训练语料、降低 CER,更是通过专项模型、端侧离线推理和模块化接口,让方言识别成为可以嵌入各类业务系统的基础语音能力。
当语音识别能够准确理解真实生活中那些带着地方表达、口语停顿和自然语气的声音时,方言 AI 才真正具备走向更广泛应用场景的条件。
参考资料
-
Dai, Y., et al. (2026). WenetSpeech-Chuan: A Large-Scale Sichuanese Corpus with Rich Annotation for Dialectal Speech Processing. ICASSP 2026.
https://arxiv.org/abs/2509.18004 -
WenetSpeech-Chuan 官方 GitHub,包含数据集、模型与 Chuan-Pipeline。
https://github.com/ASLP-lab/WenetSpeech-Chuan -
WenetSpeech-Chuan 项目主页,包含 ASR Leaderboard 与评测基准。
https://aslp-lab.github.io/WenetSpeech-Chuan/ -
WenetSpeech-Chuan ASR 模型与推理说明。
https://huggingface.co/ASLP-lab/WSChuan-ASR -
WSC-Eval-ASR 川渝方言评测集及相关资源,可通过官方项目仓库访问。
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐


所有评论(0)