GAE/standard/second/Python上的空间超过了最大实例的内存

Question

我已经使用GAE一段时间了，没有任何问题。最近唯一的变化是我添加了Spacy以及我训练的模型。

当我使用dev_appserver在本地运行时，该应用程序消耗了大约153MB的内存。部署后，我收到内存超出错误。即使使用F4_1G实例，我也超出了内存：

在总共处理0个请求后，超过了1228 MB的硬内存限制，1280 MB。考虑在app.yaml.中设置一个更大的实例类

如果我导入Spacy而不加载我的模型（实例大约有200MB），部署就可以工作，所以Spacy本身不是问题，但是当我用spacy.load（）加载我的模型时，内存就会超过限制。请注意，这发生在我甚至使用我的Spacy模型之前，所以仅仅加载模型就会导致问题。

我的Spacy模型是一个标记器和解析器，在磁盘上占用27 MB。我不明白为什么应用引擎的内存需求会比我的苹果电脑大得多。

看起来其他人已经能够在应用程序引擎上运行Spacy。知道我可能做错了什么吗？

Answer 1

我找到了解决办法。我将我的模型加载到模块级变量中，这样当模块被导入时，模型就会被加载。

部署第二代GAE应用时，会部署一堆工作线程（在我的例子中是8个）。我不理解工作线程的细节，但我怀疑有几个工作线程导入了模块，并且所有的工作线程都有助于内存使用。

我更改了我的代码，以便模型在第一次使用时而不是在模块导入时加载。使用此更改后，内存使用量为428MB。

下面是一个不应该做什么的例子：

import spacy

nlp = spacy.load('my_model')

def process_text(text):
    return nlp(text)

相反，这样做：

import spacy

nlp = None

def process_text(text):
    global nlp
    if nlp is None:
        nlp = spacy.load('my_model')
    return nlp(text)