向Keras/TensorFlow CNN致密层中添加变量

Question

我想知道是否有可能在卷积神经网络的密集层中添加一个变量（以及之前卷积层的连接，是否有额外的特征集可用于区分目的）？如果可能的话，有人能给我举个例子/文档来解释如何做到这一点吗？

我希望使用Keras，但如果Keras限制太多，我很乐意使用TensorFlow。

编辑：在这种情况下，我认为这应该起作用的方式是我向神经网络提供一个包含图像和相关特征集的列表（以及在训练相关分类期间）。

EDIT2：我想要的架构类似于：

              ___________      _________      _________      _________     ________    ______
              | Conv    |     | Max    |     | Conv    |     | Max    |    |       |   |     |
    Image --> | Layer 1 | --> | Pool 1 | --> | Layer 2 | --> | Pool 2 | -->|       |   |     |
              |_________|     |________|     |_________|     |________|    | Dense |   | Out |
                                                                           | Layer |-->|_____|
   Other      ------------------------------------------------------------>|       |
   Data                                                                    |       |
                                                                           |_______|

Answer 1

好的，假设您有convoluton_model，您可以通过以下方式执行此操作：

convolution_model = Flatten()(convolution_model) # if it wasn't flattened before
static_features_input = Input(shape=(static_features_size,))
blended_features = merge([convolution_model, static_features_input], mode='concat')
... here you are defining a blending model with blended features as input

在这里，您可以找到一个关于如何合并不同输入的示例。

Answer 2

实际上，正如@Marcin所说，您可以使用合并层。

我建议您为此使用Functional API。如果你不熟悉它，请阅读这里的一些文档。

这是您使用keras API涂鸦的网络模型：

from keras.layers.core import *
from keras.models import Model

# this is your image input definition. You have to specify a shape. 
image_input = Input(shape=(32,32,3))
# Some more data input with 10 features (eg.)
other_data_input = Input(shape=(10,))    

# First convolution filled with random parameters for the example
conv1 = Convolution2D(nb_filter = nb_filter1, nb_row = nb_row1, nb_col=_nb_col1, padding = "same", activation = "tanh")(image_input)
# MaxPool it 
conv1 = MaxPooling2D(pool_size=(pool_1,pool_2))(conv1)
# Second Convolution
conv2 = Convolution2D(nb_filter = nb_filter2, nb_row = nb_row2, nb_col=_nb_col2, padding = "same", activation = "tanh")(conv1)
# MaxPool it
conv2  = MaxPooling2D(pool_size=(pool_1,pool_2))(conv2)
# Flatten the output to enable the merge to happen with the other input
first_part_output = Flatten()(conv2)

# Merge the output of the convNet with your added features by concatenation
merged_model = keras.layers.concatenate([first_part_output, other_data_input])

# Predict on the output (say you want a binary classification)
predictions = Dense(1, activation ='sigmoid')(merged_model)

# Now create the model
model = Model(inputs=[image_input, other_data_input], outputs=predictions)
# see your model 
model.summary()

# compile it
model.compile(optimizer='adamax', loss='binary_crossentropy')

就这样：）最后很容易，定义您想要多少输入和输出，只需在创建Model对象时在列表中指定它们。当您适合它时，也可以在列表中单独提供它们。