我可以用什么方法调试这个keras层？

Question

我是Keras的新手，正在尝试实施解相关批次规范文件(https://arxiv.org/abs/1804.08450)作为一种学习体验。该层与标准批次规范非常相似，只包含一些附加组件。

我们现在将数据居中并应用白化变换，通过对协方差矩阵进行特征值分解来计算白化变换，而不是将输入数据集中到每个层并通过方差进行归一化。

整个过程在论文（算法1，第5页）中有明确的阐述，仅由5个等式组成，我在下面的代码中标记了它们的实现。我成功地重新实现了标准批次规范层，但当我加入白化程序时，出现了NaN损失和低精度。

我想知道是否有任何建议，我应该按照调试这段代码。我不确定我是否犯了维度错误或错误地实现了方程，但如果有任何帮助，我将不胜感激。

如果您感兴趣，这是代码（编辑以包括Daniel Möller的更正）。层的输入是维度张量（batch_size高度宽度通道）。

input_shape = K.int_shape(inputs) # (batch_size height width channels) 
# unroll all dimensions except feature maps dim (c X hwb)
pool_shape = (-1, input_shape[-1]) 
x = K.reshape(x,pool_shape)
x = K.permute_dimensions(x, (1,0)) #if you do want to invert the dimensions

mean = K.mean(x,1,keepdims=True)     

# standard batch norm
#stddev = K.std(x,1,keepdims=True) + self.epsilon
#normed = (x - mean) / stddev
#normed = K.reshape(normed,((-1,)+ input_shape[1:]))

# center inputs
centered_inputs = x - mean 

#vvvvvERROR SOMEWHERE IN HEREvvvvv#
# compute covariance matrix for reshaped inputs xxt
covar = K.batch_dot(K.expand_dims(x, axis=-1), K.expand_dims(x, axis=-1),axes=(2,2))
# fuzz covariance matrix to prevent singularity
covar = covar + self.epsilon 

# execute eigenvalue decomposition
#Lambda, D,_ = tf.svd(covar,compute_uv=True)
Lambda, D = tf.self_adjoint_eig(covar)
Lambda = tf.linalg.diag(Lambda)

# calculate PCA-whitening matrix 1/sqrt(L) * D^T
U = K.batch_dot(1. / K.sqrt(Lambda), D, axes=(2,2))
# calculate PCA-whitened activation x_a = U(x - \mu)
x_a = K.batch_dot(U, centered_inputs,axes=(2,1))
# calculate ZCA-whitened output Dx_a
x_whitened = K.batch_dot(D, x_a)
#^^^^^ERROR SOMEWHERE IN HERE^^^^^# 

# reshape whitened activations back to input dimension
x_normed = K.permute_dimensions(x_whitened,(1,0)) # permute back to (bhw X c)
x_normed = K.reshape(x_normed,((-1,), input_shape[1:])) # reroll dimensions

Answer 1

假设您的代码由Keras层执行，无论是自定义层还是Lambda层。

我发现调试事物的最佳方法是创建一个只有该层的非常小的模型来查看它输出的内容。

如果问题出在代码中，那么我逐渐将返回语句移动到我认为错误的位置。

debugModel = Sequential()
debugModel.add(MyCustomLayer(...., input_shape=some_shape))

创建虚拟或有用数据：

data = loadOrCreateSomeData()

或者使用子模型从上一层获取数据：

subModel = Model(oldModel.inputs, oldModel.get_layer(nameOfATargetLayer).outputs)
data = subModel.predict(inputData)

在获得适合测试的数据后：

result = debugModel.predict(data)

未分组的标注

在以下几行中，您将在“重塑”中反转维度，这通常会将数据完全弄乱，因为维度失去了意义。（您没有进行正确的转置，只是以不同的方式重新组合了数字）

pool_shape = (input_shape[-1], np.prod(input_shape[1:-1])*self.batch_size) 
x = K.reshape(x,pool_shape) 

我想你应该试试这个：

pool_shape = (-1, input_shape[-1])
x = K.reshape(x,pool_shape) 

也许是这样：

x = K.permute_dimensions(x, (1,0)) #if you do want to invert the dimensions