设计应用

面向CNN的类激活映射算法研究

作者：杨继增，关胜晓
发布日期：2022-01-19
来源：信息技术与网络安全 1期

0 引言

近年来，以CNN为代表的深度学习在计算机视觉领域取得了突出的成果。使用端到端模型训练分类器的CNN可以很好地完成大量的图像处理任务。然而，端到端模型的黑盒属性使CNN能够直接基于输入给出结果。早期的人工智能系统的内部机制主要是逻辑和符号，CNN的解释方法被提出后，可视化成为最直接的策略。换句话说，可视化网络预测结果与输入图片的一些关联区域，如输入特征的重要性或学习的权重，已经成为最直接的方法。基于梯度[1]、基于扰动[2]、基于CAM[3]是三种被广泛采用的方法。

基于梯度的方法通常获取含有大量噪声的低质量的解释图。其步骤如下：首先，通过网络的反向传播得到输入空间的梯度图；其次，对梯度图进行处理得到表示输入图片对特定类输出结果贡献程度的热力图。基于扰动的方法[2，4]通常用扰动噪声改变原始输入来观察模型预测得分的变化。然而，此方法需要花费大量时间来迭代查询模型预测结果。




本文详细内容请下载：http://www.chinaaet.com/resource/share/2000003938





作者信息：

杨继增，关胜晓

(中国科学技术大学 信息科学技术学院，安徽 合肥230026)


此内容为AET网站原创，未经授权禁止转载。
类激活映射 卷积神经网络 可视化

Copyright © 2005-2020 《电子技术应用》版权所有 京ICP备10017138号