CPLMCSC基于单字级别预训练语言模型的中文错别字纠正方法

CPLMCSC基于单字级别预训练语言模型的中文错别字纠正方法.pdf
由于汉语语义表达的多样性和复杂性,中文错别字自动纠正目前存在很多挑战.现有的错别字纠正算法的性能普遍不够理想,而且需要大量高质量的语料进行训练.本文提出一种基于预训练语言模型的错别字纠正方法,CPLM-CSC,能够显著地提高纠错性能.CPLM-CSC采用基于单字级别预训练语言模型来进行错别字检测,并采用掩字语言模型来进行错别字纠正.为了提高纠正性能,CPLM-CSC采用音近形近字判断等多种筛选纠正结果的方法,并针对一些典型且特殊的错误,例如:“的地得”误用,采取了专门的数据增强方法.CPLM-CSC在SIGHAN2015的评测数据集上进行了测试,并取得了0.654的F1值,性能优于其他模型.
作者：谢海华 李奥林 李亚博 陈志优 程静 吕肖庆 汤帜
作者单位：北大方正集团有限公司数字出版技术国家重点实验室,北京市100871北京大学计算机科学技术研究所,北京市100871
母体文献：第十八届中国计算语言学大会暨中国中文信息学会2019学术年会论文集
会议名称：第十八届中国计算语言学大会暨中国中文信息学会2019学术年会  
会议时间：2019年10月18日
会议地点：昆明
主办单位：中国中文信息学会
语种：chi
分类号：
关键词：中文错别字  自动纠正  单字级别  预训练语言模型  掩字方式
在线出版日期：2021年8月24日
基金项目：
相似文献
相关博文

2024-12-9 11:39 上传 CPLMCSC基于单字级别预训练语言模型的中文错别字纠正方法.pdf

文件大小:

658.41 KB

下载次数:

60

高速下载