App Engine计划程序何时使用新线程而不是新实例？

Question

如果我threadsafe: true在app.yaml文件中进行设置，那么什么时候管理创建新实例以服务请求，何时在现有实例上创建新线程的规则是什么？

如果我有一个在每个请求上执行计算量大的应用程序，那么多线程能给我带来什么好处吗？换句话说，实例是多核实例还是单核？

或者，仅当现有线程正在等待IO时才启动新线程吗？

Answer 1

当前使用以下规则集确定给定实例是否可以接受新请求：

if processing more than N concurrent requests (today N=10): false
elif exceeding the soft memory limit: false
elif exceeding the instance class CPU limit: false
elif warming up: false
else true

以下总的CPU /核心限制目前适用于每个实例类：

CLASS 1: 600MHz 1 core
CLASS 2: 1.2GHz 1 core
CLASS 4: 2.4GHz 1 core
CLASS 8: 4.8GHz 2 core

因此，只有一个B8实例可以并行处理最多2个完全由CPU绑定的请求。

为实例类<8设置threadsafe: true（Python）或<threadsafe>true</threadsafe>（Java）将不允许在单个实例上并行处理多个CPU绑定请求。

如果您不完全受CPU约束或不进行I / O，Python和Java运行时将生成新线程以处理新请求，最多可处理10个并发请求。 threadsafe: true

还要注意，即使Go运行时是单线程的，它也支持并发请求：它将为每个请求生成1个goroutine，并在goroutine执行I /
O时在goroutine之间进行控制。