声明
严正声明：本站非期刊官网，非中介代理。
本站仅提供学术规范服务：快速预审、润色编辑服务、中英文查重、降重、去重服务、推荐合适的期刊投稿等学术规范服务。 如需提供学术规范服务请联系在线编辑。
国内刊号：21-1124/TP
国际刊号：1001-0920
发布日期:
作者：张建,梁兴柱,张康,林玉娥,夏晨星
单位：安徽理工大学 计算机科学与工程学院，安徽 淮南 232001,,安徽理工大学 计算机科学与工程学院，安徽 淮南 232001,,西安电子科技大学 微电子学院，西安 710126,,安徽理工大学 计算机科学与工程学院，安徽 淮南 232001,,安徽理工大学 计算机科学与工程学院，安徽 淮南 232001,
关键词：知识蒸馏;自监督学习;对抗学习;多尺度特征
基金：安徽理工大学医学专项培育项目(YZ2023H2C005)；国家自然科学基金项目(62102003)；安徽理工大学环境友好材料与职业健康研究院研发专项基金项目(ALW2021YF04)；安徽理工大学研究生创新基金项目(2023cx2139).
针对离线知识蒸馏中因教师与学生之间规模差距过大, 知识难以有效传递，导致学生性能不佳的问题, 提出一种基于自监督对抗学习的多尺度知识蒸馏方法(SAMKD), 并利用自监督和对抗学习进一步开发中间多尺度特征与网络末端输出特征 logits 的潜力. 首先, 引入多角度几何变换图像监督网络学习; 然后, 设计多分支辅助网络提取主干网络的多尺度特征, 进而获得更多监督信息; 最后, 利用对抗学习的二元博弈思想进行多阶段对抗训练, 将多层次的知识通过蒸馏方法充分传递. 在3个具有挑战性的公开数据集 CIFAR-10、CIFAR-100和Tiny-ImageNet上进行广泛评估, 实验结果表明所提出方法相较其他先进知识蒸馏方法具有强大的竞争力.
来源：2025年第3期
《控制与决策》期刊编辑部
严正声明：本站非期刊官网，非中介代理。
本站仅提供学术规范服务：快速预审、润色编辑服务、中英文查重、降重、去重服务、推荐合适的期刊投稿等学术规范服务。 如需提供学术规范服务请联系在线编辑。