Java-Encog 3.2-RPROP网络未更新权重

Question

我研究了很多问题和例子，但我似乎找不到我的RPROP神经网络有什么问题。这也是我第一次使用Encog，所以我想知道这是不是我做错了什么。

我试图训练网络识别猫，方法是给它提供图像（50x50），然后将其转换为灰度，并给网络提供输入双[][]和目标双[][]。我注意到错误一直在4.0，所以我在每次训练迭代中执行一个dupWeghts（）来看看发生了什么。我注意到权重一直为零。然后我回到基础知识，看看我做的事情是否正确，所以我针对XOR问题对其进行了修改：

//////////First created the network:

BasicNetwork network = new BasicNetwork();

network.addLayer(new BasicLayer(null, true, 2));
network.addLayer(new BasicLayer(new ActivationBiPolar(), true, 2));
network.addLayer(new BasicLayer(new ActivationBiPolar(), false, 1));

network.getStructure().finalizeStructure();
network.reset(); 

//////Then created my data set and target vector (ideal vector) and fed it to a new RPROP training class:

final double targetVector[][] = { { -1 }, { 1.0 }, { 1.0 }, { -1 } };
final double inputData[][] = { { -1, -1 }, { 1.0, -1 },{ -1, 1.0 }, { 1.0, 1.0 } };

MLDataSet trainingSet = new BasicMLDataSet(inputData, targetVector);

final ResilientPropagation train = new ResilientPropagation(network, trainingSet);

///////train network

int epoch = 1;

    do{
        train.iteration();
        System.out.println("Epoch #" + epoch + " Error : " + train.getError()) ;
        epoch++;

        System.out.println(network.dumpWeights());

    }while(train.getError() > 0.01) ;
        train.finishTraining();

        System.out.println("End of training");

我得到以下输出，注意0.0行作为network.dumpWeights（）方法的结果：

纪元 #132636 错误 ： 2.0 0，0，0，0，0，0，0，0，0 纪元 #132637 错误 ： 2.0 0，0，0，0，0，0，0，0，0 纪元 #132638 错误 ： 2.0 0，0，0，0，0，0，0，0，0，0 纪元 #132639 错误 ： 2.0 0，0，0，0，0，0，0，0 纪元 #132640 错误 ： 2.0

等等

你能看出我做错了什么吗？我还尝试了一个2-3-1架构，就像XORHelloWorld.java的例子一样。

任何帮助都将不胜感激。

Answer 1

尝试将隐藏层切换为TANH激活功能，例如：

network.addLayer(new BasicLayer(null, true, 2));
network.addLayer(new BasicLayer(new ActivationTANH(), true, 2));
network.addLayer(new BasicLayer(new ActivationBiPolar(), false, 1));

有了这个变化，我可以让你上面的例子收敛起来。我认为如果你使用-1比1作为输入，它会比Sigmoid工作得更好。作为一个线性激活函数是可以的（即ActivationBiPolar作为输出激活函数），但是你需要一些东西，比如sigmoid/tanh作为隐藏的。一些不仅仅像线性函数那样返回1.0作为导数的东西。