基于Transformer的铁路作业语音ASR系统与应用
(1.广深铁路股份有限公司广州工务段,广东 广州 510630;2.广州市讯途科技有限公司,广东 广州 510630)
摘要
针对我国铁路运输安全管理规则中对标准化作业指令交互及事后安全分析处理的强制性要求,提出了一种基于Transformer的铁路作业语音自动语音识别(Automatic Speech Recognition, ASR)技术方案,实现了铁路作业语音自动识别系统。该系统充分利用Transformer架构的多头自注意力机制,能够有效捕捉长距离依赖关系且便于并行计算,并根据铁路作业规范标准用语的特点进行优化训练,显著提高了ASR的性能,将系统识别准确率提高到90%以上。该系统实现了铁路作业过程对话事后安全分析的自动化转文本功能,满足了铁路部门安全监管的实际应用需求。
关键词
铁路作业语音;自动语音识别;Transformer模型
参考文献
- [1] 国家铁路局.推动铁路高质量发展 贡献经济向好“铁”力量 [EB/OL].(2024-12-26)[2025-03-03].https://www.nra.gov.cn/xwzx/xwxx/xwlb/202412/t20241226_347601.shtml.
- [2] 大洋网.2024年全国铁路发送旅客40.8亿人次,投产新线3113公里 [EB/OL].(2025-01-02)[2025-03-01].https://news.dayoo.com/gzrbrmt/202501/02/170628_54769704.htm.
- [3] 李仕旺,江琳,王桂林.基于自然语言处理的铁路客运营销分析智能对话系统研究 [J].铁路计算机应用,2024,33(8):61-71.
- [4] 陈楠,曹雪虹,焦良葆,等.面向电力巡检语音指令识别后的文本纠错算法 [J].计算机与数字工程,2022,50(1):116-123+134.
- [5] 毛宏亮.面向电网调度领域语音识别后的文本纠错方法研究 [D].乌鲁木齐:新疆师范大学,2023.
- [6] 马文晖,冯国斌,刘为民,等.语音识别后文本纠检错算法研究 [J].铁道通信信号,2020,56(11):55-58.
- [7] 马晓亮,安玲玲,邓从健,等.基于行业词表的自动语音转写后优化技术 [J].华南理工大学学报:自然科学版,2023,51(8):118-125
- [8] ZHANG Q,LU H,SAK H,et al. Transformer Transducer: A Streamable Speech Recognition Model with Transformer Encoders and RNN-T Loss [C]//ICASSP 2020 - 2020 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP).Barcelona:IEEE,2020:7829-7833.
- [9] GULATI A,QIN J,CHIU C C,et al. Conformer: Convolution-augmented Transformer for Speech Recognition [J/OL].arXiv:2005.08100 [eess.AS].[2025-01-05].https://doi.org/10.48550/arXiv.2005.08100.
- [10] XU M L,LI S Q,ZHANG X L. Transformer-based end-to-end speech Recognition with Local Dense Synthesizer Attention [C]//ICASSP 2021 - 2021 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP).Toronto:IEEE,2021:5899-5903.
- [11] LI M H,ZHANG S C,ZORILĂ C,et al. Transformer-Based Streaming ASR with Cumulative Attention [C]//ICASSP 2022 - 2022 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP).Singapore:IEEE,2022:8272-8276.
- [12] VASWANI A,SHAZEER N,PARMAR N,et al. Attention is All You Need [J].Proceedings of the 31st International Conference on Neural Information Processing Systems.Red Hook:Curran Associates Inc.,2017:6000-6010.
作者简介
朱坚榕(1978.03—),男,汉族,广东清远人,工程师,本科,研究方向:人工智能应用。