控制与决策

作者：孔锐,蔡佳纯,黄钢,张冰

单位：暨南大学 智能科学与工程学院,广东 珠海 509070;暨南大学 信息科学技术学院,广州 510632,,暨南大学 信息科学技术学院,广州 510632,,暨南大学 信息科学技术学院,广州 510632,,暨南大学 智能科学与工程学院,广东 珠海 509070,

关键词：对抗攻击;对抗训练;生成式对抗网络;条件模型;样本生成

基金：广东省自然科学基金项目(2020A151501718).

对抗样本能够作为训练数据辅助提高模型的表达能力,还能够评估深度学习模型的稳健性.然而,通过在一个小的矩阵范数内扰乱原始数据点的生成方式,使得对抗样本的规模受限于原始数据.为了更高效地获得任意数量的对抗样本,探索一种不受原始数据限制的对抗样本生成方式具有重要意义.鉴于此,提出一种基于生成对抗网络的对抗样本生成模型(multiple attack generative adversarial networks, M-AttGAN).首先,将模型设计为同时训练2组生成对抗网络,分别对原始数据样本分布和模型潜在空间下的扰动分布进行建模;然后,训练完成的M-AttGAN能够不受限制地高效生成带有扰动的对抗样本,为对抗训练和提高深度神经网络的稳健性提供更多可能性;最后,通过MNIST和CIFAT-10数据集上的多组实验,验证利用生成对抗网络对数据分布良好的学习能力进行对抗样本生成是可行的.实验结果表明,相较于常规攻击方法,M-AttGAN不仅能够脱离原始数据的限制生成高质量的对抗样本,而且样本具备良好的攻击性和攻击迁移能力.

来源：2023年第2期

《控制与决策》期刊编辑部

查看控制与决策杂志2023年第2期