控制与决策

北大核心,JST,Pж(AJ),EI,CSCD

国内刊号:21-1124/TP

国际刊号:1001-0920

控制与决策杂志2022年第1期:基于预训练模型与知识蒸馏的法律判决预测算法

发布日期:

作者:潘瑞东,孔维健,齐洁

单位:东华大学 信息科学与技术学院,上海 201600,,东华大学 信息科学与技术学院,上海 201600;东华大学 数字化纺织服装技术教育部工程研究中心,上海 201620,,东华大学 信息科学与技术学院,上海 201600;东华大学 数字化纺织服装技术教育部工程研究中心,上海 201620,

关键词:法律判决预测;预训练模型;焦点损失;多任务学习;模型压缩;知识蒸馏

基金:国家自然科学基金项目(61773112,61603088).

针对法律判决预测中罪名预测和法条推荐子任务,提出基于BERT(bidirectional encoder representation from transformers)预训练模型与知识蒸馏策略的多任务多标签文本分类模型.为挖掘子任务间的关联,提高预测准确率,运用BERT预训练模型进行多任务学习,建立$\rm{BERT_{12

来源:2022年第1期

《控制与决策》期刊编辑部

查看控制与决策杂志2022年第1期

联系我们

  • 地址:沈阳市和平区文化路3巷11号
  • 电话:024-83687766
  • E-mail:kzyjc@mail.neu.edu.cn

咨询工作人员