控制与决策

作者：宋燕,覃俞璋,曾入

单位：上海理工大学 控制科学与工程系,上海 200093,,上海理工大学 控制科学与工程系,上海 200093,,上海理工大学 控制科学与工程系,上海 200093,

关键词：图像分类;胶囊网络;注意力机制;共享参数;鲁棒性;对抗攻击

基金：国家自然科学基金项目(62073223)；上海市自然科学基金项目(22ZR1443400)；航天飞行动力学技术国防科技重点实验室开放课题项目(6142210200304).

针对传统胶囊网络特征信息的传播冗余性和解构低效性问题,提出一种共享参数的注意力胶囊网络.该网络的优点主要体现于以下两方面:1)提出注意力机制的动态路由方法,通过计算低级胶囊的相关性,使得在保留特征空间信息的同时更加关注相关性高的特征信息,并完成前向传播;2)在动态路由层提出共享转换矩阵,基于低级胶囊投票一致性对高级胶囊激活,并通过共享转换矩阵减少模型的参数量,同时实现改进胶囊网络的稳健性.首先,通过5个公开数据集的分类对比实验,表明所提出胶囊网络在Fashion-MNIST、SVHN和CIFAR10数据集上分别取得了5.17%、3.67%和9.35%的最好分类结果,而且在复杂数据集上具有显著的白盒对抗攻击鲁棒性;然后,通过在基于smallNORB和affNISH公开数据集的仿射变换对比实验,表明所提出的胶囊网络具有显著的仿射变换鲁棒性;最后,通过计算效率分析对比实验结果,表明所提出共享参数胶囊网络在不增加浮点运算的情况下,参数量比传统的胶囊网络减少4.9%,具有突出的计算量优势.

来源：2023年第6期

《控制与决策》期刊编辑部

查看控制与决策杂志2023年第6期