文章详情

摘要

为应对大语言模型（LLMs）在水利等知识密集型行业应用中面临的知识幻觉、信息时效性差和本地化部署效率低等挑战，文章提出一种融合向量检索与知识图谱（KG）约束的知识增强检索生成（KE-RAG）系统架构。该架构以国产开源模型通义千问Qwen3-32B-AWQ为生成核心，构建包含法律法规、技术标准、工程案例和专家经验的多模态水利知识库，并通过向量化大语言模型（vLLM）框架实现本地化高性能推理。实验结果表明，在评测集上，该架构专业知识问答准确率达91.5%，平均端到端响应延迟低于500 ms，吞吐量相较于标准部署提升近4倍，各项指标均显著优于基线模型，为水利行业应用大语言模型提供了参考方案。

关键词

大语言模型；检索增强生成；知识图谱；水利知识问答；高性能推理；本地化部署

参考文献

1. [1] 徐月梅，胡玲，赵佳艺，等.大语言模型的技术应用前景与风险挑战 [J].计算机应用，2024，44（6）：1655-1662.
2. [2] 李子骏，肖辉，李雪峰.面向知识密集型任务的检索增强生成技术综述 [J].微电子学与计算机，2025，42（10）：48-65.
3. [3] 冯钧，畅阳红，陆佳民，等.基于大语言模型的水工程调度知识图谱的构建与应用 [J].计算机科学与探索，2024，18（6）：1637-1647.
4. [4] 杨阳蕊，董方宁，王鹏斐，等.基于大语言模型的水利工程运行管理质量概念模型及知识图谱自动化构建 [J].水利学报，2025，56（5）：634-645.
5. [5] 王耀祖，李擎，戴张杰，等.大语言模型研究现状与趋势 [J].工程科学学报，2024，46（8）：1411-1425.
6. [6] 文森，钱力，胡懋地，等.基于大语言模型的问答技术研究进展综述 [J].数据分析与知识发现，2024，8（6）：16-29.
7. [7] 朱乔利，吴尚猷，程杰，等.基于RAG的大模型水利知识问答质量评价方法研究 [C]//2024中国水利学术大会.西安：中国水利学会，2024：473-478.
8. [8] 江新兰，鱼丽源，林林，等.智能问答系统在水利领域规章制度查询中的应用研究 [C]//2024中国水利学术大会.西安：中国水利学会，2024：526-537.
9. [9] 张鹤译，王鑫，韩立帆，等.大语言模型融合知识图谱的问答系统研究 [J].计算机科学与探索，2023，17（10）：2377-2388.
10. [10] 纪威宇，张永，姜巍.面向业务需求的知识增强大模型生成框架技术研究 [J].软件，2024，45（5）：158-160.
11. [11] KWON W，LI Z H，ZHUANG S Y，et al. Efficient Memory Management for Large Language Model Serving with PagedAttention [C]//SOSP' 23: Proceedings of the 29th Symposium on Operating Systems Principles. New York：ACM，2023：611-626.

基金项目

湖南省水利科技项目（XSKJ2024064-30）

作者简介

丁羽亮（1995—），男，汉族，湖南益阳人，中级工程师，本科，研究方向：水利行业大模型应用与软件开发；通信作者：彭秀莲（1988—），女，汉族，湖南娄底人，高级工程师，本科，研究方向：水利管理。