为什么我在简单的2输出2输入网络中得到6个Keras参数？

Question

我正在学习keras中的神经网络。我在合成数据上指定了一个简单的模型。

model=tf.keras.models.Sequential()
model.add(tf.keras.layers.Dense(2, input_dim=2))
model.compile(optimizer='sgd', loss='mean_squared_error')

我有两个属性来预测两个值。

这是我初始化数据的地方：

x=[]
y=[]
for x1 in range (6):
    x2=int(random.random()*10)
    x.append([x1,x2])
    y.append([2*x1+x2**2-2, x1*x2])
xs = np.array(x, dtype=float)
xs=xs.reshape(6,2)
ys = np.array(y, dtype=float)
ys=ys.reshape(6,2)
model.fit(xs, ys, epochs=500)

请注意，我使用这些数据只是为了学习。在我试图观察模型之后。我运行model.summary（）和model.get_weights（）。

Model: "sequential"
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
dense (Dense)                (None, 2)                 6         
=================================================================
Total params: 6
Trainable params: 6
Non-trainable params: 0
_________________________________________________________________
None
model weights  [array([[0.5137405, 5.477211 ],
       [8.750836 , 1.6910588]], dtype=float32), array([-5.701193, -7.874653], dtype=float32)]

我不明白为什么有6个参数和6个重量。根据我的理解，每个输入应该有两个输出层，或者我应该在某个地方专门定义输出层？

Answer 1

你有一个带有两个神经元的输出层，每个神经元必须有两个权重（因为输入是2维的）和另一个称为“偏差”的权重。所以每个神经元有3个权重。

总之，您有2个神经元，每个神经元有3个权重或可训练参数，因此网络中总共有6个可训练参数。

Answer 2

您定义的模型架构如下图所示

你有一个由两个神经元组成的致密层。为什么是两个神经元？因为密集的第一个参数是单位，它表示神经元的数量。每个神经元对X.W b进行线性运算，然后对其应用激活函数。nuerons中的可学习参数是W和b。

由于X的大小是2（2个特征），所以W的大小是（=2）b的大小是3。因此，在这种情况下，每个神经元将有3个参数，2个这样的神经元将有6个参数。