可以用感知器构建卷积神经网络吗？

Question

我在读一篇关于卷积神经网络的有趣文章。它显示了这幅图像，解释了对于5x5像素/神经元的每个感受野，计算一个隐藏值的值。

我们可以把max-pooling看作是网络询问给定特征是否在图像区域的任何地方找到的一种方式。然后它就会丢弃精确的位置信息。

因此应用了max-pooling。

input_size = 5x5;
hidden_size = 10; e.g.
output_size = 1;

我们将对每一个24×24隐藏的神经元使用相同的权重和偏差。

这也适用于隐藏层到池层，input_size=2x2；output_size=1；。对于max-pool层，它只是数组上的max()函数。

然后最后：

-> 1 perceptron for every convolutional layer/feature map
-> run this perceptron for every receptive field to create feature map
-> 1 perceptron for every pooling layer
-> run this perceptron for every field in the feature map to create a pooling layer
-> finally input the values of the pooling layer in a regular ALL to ALL perceptron

Answer 1

答案很大程度上取决于你所说的感知器。常见的选项有：

>

完整的体系结构。那就不是了，因为它的定义是不同的神经网络。

一个单个神经元的模型，特别是y=1，如果(w.x+b)>0，否则0，其中x是神经元的输入，w和b是神经元的可训练参数，w.b表示点积。然后是的，你可以强迫一堆这些感知器共享权重，并称之为一个CNN。你会发现这种思想的变体被用在二元神经网络中。

一种训练算法，通常与感知器体系结构相关联。这对问题没有意义，因为学习算法原则上与体系结构正交。虽然你不能真正使用感知器算法来处理任何有隐藏层的东西，但在这种情况下，答案是否定的。

与原始感知器关联的损失函数。这个Peceptron的概念正交于手边的问题，你的CNN的损失函数是由你对你的整个模型所做的任何事情给出的。您最终可以使用它，但它是不可微的，所以祝您好运：-）

旁白：你可以看到人们把前馈的、具有隐藏层的完全连接的神经网络称为“多层感知器”（MLPs）。这是一个错误的称呼，在MLP中没有感知器，参见维基百科上的讨论--除非你去探索一些非常奇怪的想法。将这些网络称为多层线性Logistic回归是有意义的，因为这就是它们过去的组成。直到六年前。