Tensorflow分配内存：38535168的分配超过系统内存的10%

Question

使用ResNet50预训练的权重我试图构建一个分类器。代码库完全在Keras高级Tensorflow API中实现。完整的代码发布在下面的GitHub链接中。

源代码：使用RestNet50架构进行分类

预训练模型的文件大小为94.7mb。

我加载了预先训练过的文件

new_model = Sequential()

new_model.add(ResNet50(include_top=False,
                pooling='avg',
                weights=resnet_weight_paths))

并符合模型

train_generator = data_generator.flow_from_directory(
    'path_to_the_training_set',
    target_size = (IMG_SIZE,IMG_SIZE),
    batch_size = 12,
    class_mode = 'categorical'
    )

validation_generator = data_generator.flow_from_directory(
    'path_to_the_validation_set',
    target_size = (IMG_SIZE,IMG_SIZE),
    class_mode = 'categorical'
    )

#compile the model

new_model.fit_generator(
    train_generator,
    steps_per_epoch = 3,
    validation_data = validation_generator,
    validation_steps = 1
)

在训练数据集中，我有两个文件夹狗和猫，每个文件夹持有近10,000张图像。当我编译脚本时，我得到以下错误

纪元1/1 2018-05-12 13:04:45.847298： W tensorflow/core/框架/allocator.cc:101]分配38535168超过10%的系统内存。2018-05-12 13:04:46.845021： W tensorflow/core/框架/allocator.cc:101]分配37171200超过10%的系统内存。2018-05-12 13:04:47.552176： W Tenorflow/core/框架/allocator.cc:101] 37171200的分配超过了系统内存的10%.2018-05-12 13:04:48.199240： W tenorflow/core/框架/allocator.cc:101] 37171200的分配超过了系统内存的10%.2018-05-12 13:04:48.918930： W tensorflow/core/框架/allocator.cc:101] 37171200的分配超过了系统内存的10%2018-05-12 13:04:49.274137： W tensorflow/core/框架/allocator.cc:101] 19267584的分配超过了系统内存的10%2018-05-12 13:04:49.647061：W tenstorflow/core/框架/allocator.cc:101] 19267584的分配超过了系统内存的10%。2018-05-12 13:04:50.028839： W tenstorflow/core/框架/allocator.cc:101] 19267584的分配超过了系统内存的10%。2018-05-12 13:04:50.413735： W tenorflow/core/framework/allocator.cc:101] 19267584的分配超过了系统内存的10%。

有没有办法优化加载预训练模型的方式（或）消除此警告消息？

谢谢

Answer 1

或者，您可以设置环境变量TF\u CPP\u MIN\u LOG\u LEVEL=2以过滤信息和警告消息。我发现在这个github问题上，他们抱怨相同的输出。要在python中实现这一点，您可以使用以下解决方案：

import os
import tensorflow as tf
os.environ['TF_CPP_MIN_LOG_LEVEL'] = '3'

你甚至可以用这个随意打开和关闭它。在运行代码之前，我会测试最大可能的批处理大小，并且可以在执行此操作时禁用警告和错误。

Answer 2

我在运行带有Docker和Jupyter笔记本的Tensorflow容器时遇到了同样的问题。我能够通过增加容器内存来解决这个问题。

在Mac OS上，您可以通过以下方式轻松完成此操作：

       Docker Icon > Preferences >  Advanced > Memory

拖动滚动条到最大值（例如。4GB）。应用，它将重新启动Docker引擎。

现在再次运行张量流容器。

在单独的终端中使用docker stats命令非常方便。它实时显示了容器内存使用情况，您可以看到内存消耗量正在增长：

CONTAINER ID   NAME   CPU %   MEM USAGE / LIMIT     MEM %    NET I/O             BLOCK I/O           PIDS
3170c0b402cc   mytf   0.04%   588.6MiB / 3.855GiB   14.91%   13.1MB / 3.06MB     214MB / 3.13MB      21

Answer 3

尝试将“批次大小”属性减少为一个较小的数字（如1、2或3）。例子：

train_generator = data_generator.flow_from_directory(
    'path_to_the_training_set',
    target_size = (IMG_SIZE,IMG_SIZE),
    batch_size = 2,
    class_mode = 'categorical'
    )