神经网络学习速度快，误报率高

Question

我最近开始实现一个前馈神经网络，我使用反向传播作为学习方法。我一直使用http://galaxy.agh.edu.pl/~vlsi/ai/backp_t_en/backprop.html作为指南。

然而，仅仅在第一个纪元之后，我的错误是0。在真正使用网络之前,我尝试了简单的网络结构：

• 4个二进制输入，1，1，0，0。
• 两个隐藏层，每个层4个神经元。
• 1个输出神经元，1.0应该=有效输入。

每个训练周期运行测试输入（1,1,0,0)，计算输出误差（sigmoid导数*(1.0-sigmoid))，反向传播误差，最后调整权重。

每个神经元的新权重=weight+learning_rate*神经元的误差*权重的输入。

同样，当我用我的真实数据尝试这个网络时（一组32个音频特征来自样本-每个隐藏层32个神经元），我得到了同样的问题。任何噪音都会触发假阳性。这可能是一个输入特性的问题，但当我使用高音音符进行测试时，我可以清楚地看到原始数据与低音音符不同。

我是一个神经网络新手，所以我几乎肯定问题出在我的网络上。如有任何帮助，将不胜感激。

Answer 1

接下来，与其使用两个隐藏层，不如尝试只使用一个隐藏层。您可能必须增加该层中的节点数，但对于大多数实际问题，您应该能够在仅有一个隐藏层的情况下获得良好的解决方案。它很可能会更稳定，而且肯定会让你更容易地跟踪BackProp发生的事情。