在python中构建自定义Caffe层

Question

在解析了许多有关在Python中构建Caffe层的链接之后，我仍然很难理解一些概念。可以请别人澄清一下吗？

• 网络的Blob和权重python结构在这里进行了解释：查找关于输入的Caffe转换滤波器的梯度。
• 网络和求解器的结构在这里说明：Caffe / Pycaffe速查表？。
• 定义python层的示例在这里：git上的pyloss.py。
• 此处进行层测试：在git上测试层。
• 此处介绍了C ++新层的开发：git wiki。

我仍然缺少的是：

1. setup()方法：我应该在这里做什么？为什么在示例中我应该将“底部”参数的长度与“ 2”进行比较？为什么应该是2？似乎不是批处理大小，因为它是任意的？据我了解，底部是blob，然后第一维是批处理大小？
2. reshape()方法：据我所知，“底部”输入参数是下层的Blob，“顶层”参数是上层的Blob，我需要根据我的计算输出形状使用前向传递来重塑顶层。但是，如果这些形状在传球之间不改变，而只是权重发生变化，为什么我需要在每个前传球上都这样做呢？
3. reshape和forward方法对于使用的“顶部”输入参数有0个索引。为什么我需要使用top[0].data=...或top[0].input=...代替top.data=...and top.input=...？这个指数是关于什么的？如果我们不使用此顶部列表的其他部分，为什么以这种方式公开它？我可以怀疑它或C ++主干的巧合，但是最好确切知道。
4. reshape() 方法，符合：

   if bottom[0].count != bottom[1].count
   

我在这里做什么？为什么它的尺寸又是2？我在这里算什么？为什么blob的两个部分（0和1）在某些成员（count）中的数量应该相等？

1. forward() 方法，我在此行中定义：

   self.diff[...] = bottom[0].data - bottom[1].data
   

如果我定义正向路径后使用它？我们可以使用吗

    diff = bottom[0].data - bottom[1].data

而是稍后在此方法中计算损失，而不分配给self，还是出于某种目的而完成？

1. backward()方法：这是关于什么的for i in range(2):？为什么范围再次是2？

2. backward()方法，propagate_down参数：为什么要定义？我的意思是，如果应该将其True渐变分配给bottom[X].diff我，但是为什么有人会调用什么都不做的方法propagate_down = False，如果它什么都不做并且仍然在内部循环呢？

如果这些问题太明显了，我感到抱歉，我只是无法找到一个很好的指南来理解它们并在这里寻求帮助。

Answer 1

您在这里提出了很多问题，我将为您提供一些重点和指导，希望这些对您有所帮助。我不会明确回答您的所有问题。

您似乎对Blob和图层的输入/输出之间的差异感到最困惑。实际上，大多数层都有一个 单一的 Blob作为输入，一个 单一的
Blob作为输出，但并非总是如此。考虑一个损失层：它有 两个 输入：预测和地面真相标签。因此，在这种情况下，bottom是一个长度为 2
（！）的向量，是一个bottom[0]表示预测的（4-D）斑点，而bottom[1]另一个是带有标签的斑点。因此，在构造这样的层时，您必须确定您具有（硬编码）2个输入Blob（例如，ExactNumBottomBlobs()见AccuracyLayer定义）。

这同样适用于top斑点和：确实是在大多数情况下，有一个单一的top每一层，但它并非总是如此（见例如AccuracyLayer）。因此，top也是4-D斑点的
向量 ，每top一层一个。大多数情况下，该向量中只有一个html" target="_blank">元素，但有时您可能会发现多个。

我相信这涵盖了您的问题1,3,4和6。

从reshape()（Q.2）开始，此函数未在每次正向传递时调用，仅在设置net来为输入/输出和参数分配空间时才调用此函数。
有时，您可能想更改网络的输入大小（例如，检测网络），然后需要调用网络reshape()的所有层以适应新的输入大小。

至于propagate_down参数（Q.7）：由于一层可能有多个bottom，原则上需要在反向传播期间将渐变传递给 所有
bottoms。但是，label损失层底部的梯度是什么意思？在某些情况下，您不想传播到 所有
bottoms：这是此标志的作用。