控制与决策

作者：李瑶,王春露,左兴权,黄海,丁忆宁,张修建

单位：北京邮电大学 网络空间安全学院,北京 100876;可信分布式计算与服务教育部重点实验室,北京 100876,,北京邮电大学 网络空间安全学院,北京 100876;可信分布式计算与服务教育部重点实验室,北京 100876,,北京邮电大学 计算机学院,北京 100876;可信分布式计算与服务教育部重点实验室,北京 100876,,北京邮电大学 计算机学院,北京 100876,,北京邮电大学 计算机学院,北京 100876;可信分布式计算与服务教育部重点实验室,北京 100876,,北京航天计量测试技术研究所,北京 100076;国家市场监管重点实验室人工智能计量测试与标准,北京 100076,

关键词：可解释人工智能;可解释性评估;评估模型;代理模型;规则模型;定量评估

可解释人工智能(explainable artificial intelligence, XAI)近年来发展迅速,已出现多种人工智能模型的解释技术,但是目前缺乏XAI可解释性的定量评估方法.已有评估方法大多需借助用户实验进行评估,这种方法耗时长且成本高昂.针对基于代理模型的XAI,提出一种可解释性量化评估方法.首先,针对这类XAI设计一些指标并给出计算方法,构建包含10个指标的评估指标体系,从一致性、用户理解性、因果性、有效性、稳定性5个维度来评估XAI的可解释性;然后,对于包含多个指标的维度,将熵权法与TOPSIS相结合,建立综合评估模型来评估该维度上的可解释性;最后,将该评估方法用于评估6个基于规则代理模型的XAI的可解释性.实验结果表明,所提出方法能够展现XAI在不同维度上的可解释性水平,用户可根据需求选取合适的XAI.

来源：2024年第2期

《控制与决策》期刊编辑部

查看控制与决策杂志2024年第2期