文章详情

题名 · 作者 · 摘要 · 关键词 · DOI · 参考文献

基于BERT微调与领域词典的简历信息抽取

钱华远

（河北工业大学 人工智能与数据科学学院，天津 300401）

栏目：人工智能 · 第 2026 年第 11 期 · 页码：68-72,80 · 2096-4706（2026）11-0068-06 · 中图分类号：TP391 · 文献标识码：A · DOI：10.19850/j.cnki.2096-4706.2026.11.013

摘要

为了在小样本训练集情况下提升简历中结构化信息抽取的综合效果，为简历信息高效筛选提供可行途径，文章在领域标注数据稀缺的情况下，通过构建竞赛专业领域词典并利用其对少量简历进行数据增广，生成高质量训练语料。基于BERT模型，在不同规模增广数据上训练后进行关键信息抽取并计算评价指标。实验结果表明，针对两个测试集进行信息抽取的F1值分别达到91.79%和76.47%，验证了“领域词典+数据增广”策略在低资源命名实体识别任务中的有效性。

关键词

命名实体识别；自然语言处理；领域词典；数据增广；BERT模型；信息抽取

参考文献

  1. [1] 周烨恒，石嘉晗，徐睿峰.结合预训练模型和语言知识库的文本匹配方法 [J].中文信息学报，2020，34（2）：63-72.
  2. [2] 陈曙东，欧阳小叶.命名实体识别技术综述 [J].无线电通信技术，2020，46（3）：251-260.
  3. [3] 王颖洁，张程烨，白凤波，等.中文命名实体识别研究综述 [J].计算机科学与探索，2023，17（2）：324-341.
  4. [4] Devlin J，Chang M W，Lee K，et al. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding [PP/OL].（2019-05-24）https://arxiv.org/abs/1810.04805.
  5. [5] Lee J，Yoon W，Kim S，et al. BioBERT: A Pre-trained Biomedical Language Representation Model for Biomedical Text Mining [J].Bioinformatics，2020，36（4）：1234-1240.
  6. [6] Zhang T，Xia C Y，Yu P S，et al. PDALN: Progressive Domain Adaptation over a Pre-trained Model for Low-Resource Cross-Domain Named Entity Recognition [C]//Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing，2021：5441-5451.
  7. [7] Karamitsos I，Roufas N，Al-Hussaeni K，et al. LegNER: A Domain-adapted Transformer for Legal Named Entity Recognition and Text Anonymization [J/OL].Frontiers in Artificial Intelligence，2025，8：1638971.https://doi.org/10.3389/frai.2025.1638971.
  8. [8] Liu Z H，Jiang F J，Hu Y X，et al. NER-BERT: A Pre-trained Model for Low-Resource Entity Tagging [PP/OL].2021-12-01.https://arxiv.org/abs/2112.00405.
  9. [9] 帕尔哈提·吐拉江，孙媛媛，蔡艾宸，等.融合领域词汇扩充的低资源法律文书命名实体识别 [J].计算机工程与应用，2026，62（1）：264-273.
  10. [10] Liang C，Yu Y，Jiang H M，et al. BOND: BERT-Assisted Open-domain Named Entity Recognition with Distant Supervision [PP/OL].（2020-06-28）.https://arxiv.org/abs/2006.15509.
  11. [11] Hiramatsu M，Wakabayashi K，Harashima J. Named Entity Recognition by Character-based Word Classification Using a Domain Specific Dictionary [J/OL].EasyChair Preprint，2019：1-12.https://easychair.org/publications/preprint/3Jfw.
  12. [12] Dang X C，Wang L，Dong X H，et al. Improving Low-resource Chinese Named Entity Recognition Using Bidirectional Encoder Representation from Transformers and Lexicon Adapter [J/OL].Applied Sciences，2023，13（19）：10759.https://doi.org/10.3390/app131910759.
  13. [13] Vaswani A，Shazeer N，Parmar N，et al. Attention is All You Need [C]//Proceedings of the 31st International Conference on Neural Information Processing Systems，2017：6000-6010.https://dl.acm.org/doi/10.5555/3295222.3295349.
  14. [14] 李俊，吕学强.融合BERT语义加权与网络图的关键词抽取方法 [J].计算机工程，2020，46（9）：89-94.
  15. [15] Raffel C，Shazeer N，Roberts A，et al. Exploring the Limits of Transfer Learning with a Unified Text-to-text Transformer [J/OL].The Journal of Machine Learning Research，2020，21（140）：1-67.https://www.jmlr.org/papers/v21/20-074.html.
  16. [16] Roberts A，Raffel C，Shazeer N. How Much Knowledge can You Pack into the Parameters of a Language Model? [C]//Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP)，2020：5418-5426.

作者简介

钱华远（2004—），男，汉族，河北石家庄人，本科在读，研究方向：自然语言处理。