如何解决keras上的错误“分配超过10个系统内存”？

Question

我用Tensorflow后端在Keras上做了一个CNN，我的训练集有144个例子，但是每个例子的大小为3200*101。我的CNN是非常基本的，只是为了学习，batch_size2（我试着从32减少，但没有任何改善）。一个CNN层，一个展平层和一个密集层用于输出（11类）。当我符合模型时，我的笔记本电脑显示“分配（一个大数字）超过系统内存的10”，然后冻结，即使没有运行1个时代。我不能“压缩”这些例子，它们中的每一个都必须有准确的大小。我在我的CPU上运行模型（我没有GPU），8 gb内存，1 tb磁盘。我能做什么呢？

Psdt：对不起，我的英语不好，我还在学习。谢谢你的回答！

更新编辑：只需添加更多信息。

例如，我的列车组为形状（144、3400、101、1），标签为形状（144、11）。我的模型如下：

model.add(Conv2D(8, kernel_size=6, activation='linear', input_shape=(3400,101,1), batch_size=2))
model.add(Flatten())
model.add(Dense(11, activation='softmax'))
model.compile(optimizer='sgd', loss='categorical_crossentropy', metrics=['accuracy'])
model.fit(X_train, y_train, epochs=100)

Answer 1

sudo swapoff /swapfile
sudo rm  /swapfile
sudo fallocate -l 32G /swapfile
sudo chmod 600 /swapfile
sudo mkswap /swapfile
sudo swapon /swapfile

swapon -s

以上步骤将产生32G交换空间。然后运行深入学习代码。我的很好用。

我的笔记本电脑规格是HP 430 g2 4G ram 500 G SSD

Answer 2

在Keras的普通前馈网络中使用很长的输入编码时，这看起来和我得到的错误一样。我一直在使用单词嵌入，没有问题，但现在我在输入中添加了额外的功能，我得到了与您相同的错误。您需要允许脚本使用更多内存。在kubernetes对我有用的是增加我的pod的yml文件中的内存：

spec:
  containers:
  - name: yourname
    image: yourimage
    command: yourcommand
    args: yourargs
    resources:
      limits:
         nvidia.com/gpu: 1 # requesting 1 GPU
         memory: 100Gi

它最初是8G，在我引入附加功能之前就已经工作了。如果不使用docker和K8s，可以在tensorflow会话中使用：config.gpu\u options.allow\u growth=True

在Keras，我认为这将是：

import tensorflow as tf
from keras import backend as K
config = tf.ConfigProto()
config.gpu_options.allow_growth = True
config.log_device_placement = True
session = tf.Session(config=config)
K.set_session(session)
# do your ML task
K.get_session().close();

将batch_size减少到1可能会解决这个问题。通常，这个错误只是一个警告，即使作业冻结，如果您让它运行，它也可能会结束。如果这项工作被扼杀了（就像我的一样），那么你肯定需要给它更多的内存，图形处理器服务器可能比你的笔记本电脑更好。您还可以确保您使用的是Float32而不是Float64，因为这样会使用两倍的内存。此外，据我所知，这个错误通常出现在亚当优化器中，所以你使用SGD的事实意味着问题可能不在你的优化过程中。