基于模型微调融合RAG的FPSO生产流程智能问答系统
（1.中海油能源发展股份有限公司采油服务深圳分公司，广东 深圳 518054； 2.中海油能源发展股份有限公司采油服务分公司，天津 300452）
摘要
近年来，大语言模型凭借其强大的文本生成能力和理解能力，逐渐得到了广泛的应用。然而，大模型通用能力虽强，但在专业知识领域却依旧存在“幻觉”现象。文章基于海上平台专业知识库，利用检索增强生成以及参数高效微调的方式，构建了一个基于垂直知识领域大模型的工艺稳态下的智能问答系统。与通用大模型相比，垂直知识领域大模型更专注于特定领域的下游任务，具备更高的专业性和实用性。
关键词
检索增强生成；机器学习；微调；智能问答；大模型
参考文献
- [1] BROWN T B，MANN B，RYDER N，et al. Language Models are Few-Shot Learners [J/OL].arXiv:2005.14165 [cs.CL].（2020-07-22）.https://arxiv.org/abs/2005.14165?context=cs.
- [2] 许志伟，李海龙，李博，等. AIGC大模型测评综述：使能技术，安全隐患和应对 [J]. 计算机科学与探索，2024，18（9）：2293-2325.
- [3] 岳增营，叶霞，刘睿珩.基于语言模型的预训练技术研究综述 [J].中文信息学报，2021，35（9）：15.
- [4] 马武仁，弓孟春，戴辉，等.以ChatGPT为代表的大语言模型在临床医学中的应用综述 [J].医学信息学杂志，2023，44（7）：9-17.
- [5] 寇思佳，闫凤云，马晶.国内大语言模型在学科知识图谱自动标注上的应用——以道德与法治和数学学科为例 [J].华东师范大学学报：自然科学版，2024（5）：81-92.
- [6] LEWIS P，PEREZ E，PIKTUS A，et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks [J/OL].arXiv:2005.11401 [cs.CL].（2021-04-12）.https://arxiv.org/abs/2005.11401v4?file=2005.11401v4.
- [7] 田永林，王兴霞，王雨桐，等.RAG-PHI: 检索增强生成驱动的平行人与平行智能 [J].智能科学与技术学报，2024，6（1）：41-51.
- [8] 张婷婷，马明栋，王得玉.OCR文字识别技术的研究 [J].计算机技术与发展，2020，30（4）：85-88.
- [9] GLM T，ZENG A，XU B，et al. ChatGLM: A Family of Large Language Models from GLM-130B to GLM-4 All Tools [J/OL].arXiv:2406.12793 [cs.CL].（2024-07-30）.https://arxiv.org/abs/2406.12793.
- [10] 刘海洋，黄丹，王志海.一种局部协同过滤的排名推荐算法 [J].山东大学学报：工学版，2016，46（5）：29-36.
作者简介
吴斌峰（1989—），男，汉族，湖北仙桃人，中级工程师，硕士，研究方向：大语言模型智能问答、人工智能在企业中的应用、工程管理。