基于医疗临床数据的两阶段专业级大语言模型微调
Two-phases fine-tuning of professional large language model via clinical data
1. 上海健康医学院 医疗器械学院, 上海 201318
2. 复旦大学 信息科学与工程学院, 上海 200433
3. 上海理工大学 健康科学与工程学院, 上海 200093
4. 海军军医大学附属第三医院, 上海 200438
5. 中国人民解放军第905医院, 上海 200052
摘要
通用大语言模型（large language model，LLM）缺乏对专业领域知识理解的深度和广度，对专业领域问题回答的准确度不够，常常产生幻觉，阻碍了大语言模型的商业应用落地。因此，基于专业领域特有数据提高大型语言模型的专业性成为当前大语言模型应用落地的关键挑战。针对通用大语言模型在特定领域知识理解与生成内容专业性不够的问题进行了研究。基于P-Tuning v2与Freeze两种参数高效微调方法，提出了一种专业级大语言模型的两阶段微调框架。依赖该框架与肝胆科临床数据对ChatGLM-6B进行微调，得到一个针对肝胆专科的专业级大语言模型，命名为MedGLM.H。根据实验显示，微调后的大语言模型对于肝胆专科问题的准确率从31%提升到了62%；得分率从57%提升到了73%。在进行两阶段微调后，模型在肝胆专科的问答中表现出更高的准确性与专业性，根据三名临床医生进行的对话实验，证明了微调后的模型在更专业的医疗场景中具备应用潜力。
出版信息
DOI: 10.19734/j.issn.1001-3695.2024.03.0071
出版期卷: 《计算机应用研究》 印刷出版, 2024年第41卷 第10期
所属栏目: 大语言模型发展与应用专题
出版页码: 2906-2910
文章编号: 1001-3695(2024)10-004-2906-05
发布历史
[2024-10-05] 印刷出版
引用本文
孙丽萍, 童子龙, 钱乾, 等. 基于医疗临床数据的两阶段专业级大语言模型微调 [J]. 计算机应用研究, 2024, 41 (10): 2906-2910. (Sun Liping, Tong Zilong, Qian Qian, et al. Two-phases fine-tuning of professional large language model via clinical data [J]. Application Research of Computers, 2024, 41 (10): 2906-2910. )
关于期刊
- 计算机应用研究 月刊
- Application Research of Computers
-
刊号
ISSN 1001-3695
CN 51-1196/TP
《计算机应用研究》创刊于1984年，是由四川省科技厅所属四川省计算机研究院主办的计算技术类学术刊物。
《计算机应用研究》瞄准本学科领域迫切需要的前沿技术，及时反映国内外计算机应用研究的主流技术、热点技术及最新发展趋势。主要刊载内容包括本学科领域高水平的学术论文、本学科最新科研成果和重大应用成果。栏目内容涉及计算机学科新理论、计算机基础理论、算法理论研究、算法设计与分析、区块链技术、系统软件与软件工程技术、模式识别与人工智能、体系结构、先进计算、并行处理、数据库技术、计算机网络与通信技术、信息安全技术、计算机图像图形学及其最新热点应用技术。
《计算机应用研究》拥有众多高层次读者、作者，读者对象主要为从事计算机学科领域高、中级研究人员及工程技术人员，各高等院校计算机专业及相关专业的师生。多年来《计算机应用研究》的总被引频次及Web下载率一直名列本学科同类学术刊物前茅，所刊发的学术论文以其新颖性、学术性、前瞻性、导向性、实用性而备受广大读者的喜爱。
收录和评价
- 第二届国家期刊奖百种重点期刊
- 中国期刊方阵双效期刊
- 全国中文核心期刊（北大2023年版）
- 中国科技核心期刊
- 中国科学引文数据库(CSCD)来源期刊
- RCCSE中国核心学术期刊
- 中国计算机学会会刊
- 2020—2022年科技期刊世界影响力指数(WJCI)报告收录期刊
- 中国科技期刊精品数据库全文来源期刊
- 中国学术期刊综合评价数据库来源期刊
- 《中国期刊网》《中国学术期刊(光盘版)》来源期刊
- 2017—2019年中国国际影响力优秀学术期刊(自然科学与工程技术)
- 中国精品科技期刊顶尖学术论文(F5000)项目来源期刊
- 《中国工程技术电子信息网》《电子科技文献数据库》来源期刊
- 英国《科学文摘》(INSPEC)来源期刊
- 《日本科学技术振兴机构数据库》(JST)来源期刊
- 俄罗斯《文摘杂志》(AJ, VINITI)来源期刊
- 美国《艾博思科学术数据库》(EBSCO)全文来源期刊
- 美国《剑桥科学文摘(自然科学)》(CSA(NS))核心期刊
- 波兰《哥白尼索引》(IC)来源期刊
- 美国《乌利希期刊指南(网络版)》(Ulrichsweb)收录期刊
