素材来源自cs231n-assignment3-NetworkVisualization
saliency map
saliency map即特征图，可以告诉我们图像中的像素点对图像分类结果的影响。
计算它的时候首先要计算与图像像素对应的正确分类中的标准化分数的梯度(这是一个标量)。如果图像的形状是(3, H, W)，这个梯度的形状也是(3, H, W)；对于图像中的每个像素点，这个梯度告诉我们当像素点发生轻微改变时，正确分类分数变化的幅度。
计算saliency map的时候，需要计算出梯度的绝对值，然后再取三个颜色通道的最大值；因此最后的saliency map的形状是(H, W)为一个通道的灰度图。
下图即为例子：
上图为图像，下图为特征图，可以看到下图中亮色部分为神经网络感兴趣的部分。
理论依据
需要注意一下：
程序解释
下面为计算特征图函数，上下文信息通过注释来获取。
def compute_saliency_maps(X, y, model):
"""
使用模型图像(image)X和标记(label)y计算正确类的saliency map.
输入:
- X: 输入图像; Tensor of shape (N, 3, H, W)
- y: 对应X的标记; LongTensor of shape (N,)
- model: 一个预先训练好的神经网络模型用于计算X.
返回值:
- saliency: A Tensor of shape (N, H, W) giving the saliency maps for the input
images.
"""
# Make sure the model is in "test" mode
model.eval()
# Wrap the input tensors in Variables
X_var = Variable(X, requires_grad=True)
y_var = Variable(y)
saliency = None
##############################################################################
#
# 首先进行前向操作，将输入图像pass through已经训练好的model，再进行反向操作，
# 从而得到对应图像,正确分类分数的梯度
#
##############################################################################
# 前向操作
scores = model(X_var)
# 得到正确类的分数，scores为[5]的Tensor
scores = scores.gather(1, y_var.view(-1, 1)).squeeze()
#反向计算，从输出的分数到输入的图像进行一系列梯度计算
scores.backward(torch.FloatTensor([1.0,1.0,1.0,1.0,1.0])) # 参数为对应长度的梯度初始化
# scores.backward() 必须有参数，因为此时的scores为非标量，为5个元素的向量
# 得到正确分数对应输入图像像素点的梯度
saliency = X_var.grad.data
saliency = saliency.abs() # 取绝对值
saliency, i = torch.max(saliency,dim=1) # 从3个颜色通道中取绝对值最大的那个通道的数值
saliency = saliency.squeeze() # 去除1维
# print(saliency)
return saliency再定义一个显示图像函数，进行图像显示
def show_saliency_maps(X, y):
# Convert X and y from numpy arrays to Torch Tensors
X_tensor = torch.cat([preprocess(Image.fromarray(x)) for x in X], dim=0)
y_tensor = torch.LongTensor(y)
# Compute saliency maps for images in X
saliency = compute_saliency_maps(X_tensor, y_tensor, model)
# Convert the saliency map from Torch Tensor to numpy array and show images
# and saliency maps together.
saliency = saliency.numpy()
N = X.shape[0]
for i in range(N):
plt.subplot(2, N, i + 1)
plt.imshow(X[i])
plt.axis('off')
plt.title(class_names[y[i]])
plt.subplot(2, N, N + i + 1)
plt.imshow(saliency[i], cmap=plt.cm.hot)
plt.axis('off')
plt.gcf().set_size_inches(12, 5)
plt.show()
show_saliency_maps(X, y)output：
另一种梯度的计算法，通过了损失函数计算出来的梯度
out = model( X_var )
loss_func = torch.nn.CrossEntropyLoss()
loss = loss_func( out, y_var )
loss.backward()
grads = X_var.grad
grads = grads.abs()
mx, index_mx = torch.max( grads, 1 )
# print(mx, index_mx)
saliency = mx.data
# print(saliency)这中方法的output为：
参考资料：
1、 Karen Simonyan, Andrea Vedaldi, and Andrew Zisserman. “Deep Inside Convolutional Networks: Visualising Image Classification Models and Saliency Maps”, ICLR Workshop 2014.
2、http://cs231n.stanford.edu/syllabus.html
