为多个隐藏层设置sklearn MLPClassizer的激活参数

Question

我设计了一个神经网络，它有两个具有不同激活函数的隐藏层。如何使用sklearn为每个层设置不同于其他层的激活功能。神经网络。MLP分类器库？

有类似的东西吗？

from sklearn.neural_network import MLPClassifier
clf = MLPClassifier(alpha=1e-5 ,hidden_layer_sizes=(10,5),activation=['tanh','relu'])

错误为：错误为：“raise ValueError”（“不支持激活'%1！'）”

Answer 1

根据文档，活动可以是以下活动之一：

activation{‘identity’, ‘logistic’, ‘tanh’, ‘relu’}, default=’relu’

    Activation function for the hidden layer.

        ‘identity’, no-op activation, useful to implement linear bottleneck, returns f(x) = x

        ‘logistic’, the logistic sigmoid function, returns f(x) = 1 / (1 + exp(-x)).

        ‘tanh’, the hyperbolic tan function, returns f(x) = tanh(x).

        ‘relu’, the rectified linear unit function, returns f(x) = max(0, x)

没有为不同层设置不同激活的选项。回想一下，MLP在概念上比成熟的神经网络更简单。如果你想要一个简单的架构，那么为什么不对两层都使用相同的激活呢？如果你想要更多的控制，那就切换到真正的深度学习框架。