控制与决策

作者：唐焕玲,宋双梅,刘孝炎,窦全胜,鲁明羽

单位：山东工商学院 计算机科学与技术学院,山东 烟台 264005;山东省高等学校协同创新中心:未来智能计算,山东 烟台 264005;山东工商学院 山东省高校智能信息处理重点实验室,山东 烟台 264005,,山东工商学院 信息与电子工程学院,山东 烟台 264005,,山东工商学院 计算机科学与技术学院,山东 烟台 264005,,山东工商学院 计算机科学与技术学院,山东 烟台 264005;山东省高等学校协同创新中心:未来智能计算,山东 烟台 264005;山东工商学院 山东省高校智能信息处理重点实验室,山东 烟台 264005,,大连海事大学 信息科学技术学院,辽宁 大连 116026,

关键词：半监督学习;数据增强;深度学习;文本分类

基金：国家自然科学基金项目(61976124,61976125,62176140,61873177,61972235,82001775).

当标注样本匮乏时,半监督学习利用大量未标注样本解决标注瓶颈的问题,但由于未标注样本和标注样本来自不同领域,可能造成未标注样本存在质量问题,使得模型的泛化能力变差,导致分类精度下降.为此,基于wordMixup方法,提出针对未标注样本进行数据增强的u-wordMixup方法,结合一致性训练框架和Mean Teacher模型,提出一种基于u-wordMixup的半监督深度学习模型(semi-supervised deep learning model based on u-wordMixup, SD-uwM).该模型利用u-wordMixup方法对未标注样本进行数据增强,在有监督交叉熵和无监督一致性损失的约束下,能够提高未标注样本质量,减少过度拟合.在AGNews、THUCNews和20 Newsgroups数据集上的对比实验结果表明,所提出方法能够提高模型的泛化能力,同时有效提高时间性能.

来源：2023年第6期

《控制与决策》期刊编辑部

查看控制与决策杂志2023年第6期