%0 Journal Article
%A 傅群超
%A 王枞
%T 用于文本分类的多探测任务语言模型微调
%D 2019
%R 10.13190/j.jbupt.2019-149
%J 北京邮电大学学报
%P 76-83
%V 42
%N 6
%X 预训练语言模型被广泛运用在多项自然语言处理任务中，但是对于不同的任务没有精细的微调.针对文本分类任务，提出基于探测任务的语言模型微调方法，利用探测任务训练模型特定的语言学知识，可提高模型在文本分类任务上的性能.设计了6个探测任务，覆盖句子浅层、语法和语义三方面信息.最后在6个文本分类数据集上验证了本文的方法，使分类错误率得到改善.
%U https://journal.bupt.edu.cn/CN/10.13190/j.jbupt.2019-149