Apache Storm：LOCAL_OR_SHUFFLE不将工作推送到其他执行程序

Question

我一直在使用storm拓扑设置，以便在不出现内存错误的情况下实现最大吞吐量。

3节点storm(V1.0.1)群集。显然，一个节点也是主节点，部署到AWS M3.2xLarge实例上。有12个工作人员（每个节点4个）：

topology.workers: 12

每个工作者有4 GB的堆空间：

worker.heap.memory.mb: 4096

特别是我的一个bolt，让我们称之为:hashingbolt具有12的并行性提示。

这将创建12个执行器，每个执行器有一个任务（因为我正在使用Flux配置/部署）。hashingbolt的流类型为local_or_shuffle。

当单击Storm UI中的hashingbolt时，我希望在Executors（All Time）部分下看到12行-每个Executors一行-每行都包含一些内容。

我希望storm首先将4个本地执行器（在主节点上，因为local_or_shuffle更喜欢本地执行器（如果可用的话））最大，然后恢复到shuffle并开始将其他两个节点上的执行器最大。

只有4个执行者做过任何事情。所有其他的都是空闲的，从不ACK/发射一个东西。我假设这是因为这4个执行者是本地的，他们是首选的。

现在，如果我将流类型更改为shuffle，那么--当然--所有执行程序都可以工作，吞吐量也会增加。

1. 我的猜测正确吗？正在做某事的4个执行者是当地的吗？还是红鲱鱼？
2. 为什么其他执行程序不在local_or_shuffle中使用？是不是因为4个执行器做的工作不够充分？
3. 如果4个本地执行者没有得到足够的最大值，我如何使它如此？这与流缓冲区大小有关吗？我应该减少/增加等吗？
4. 如果我将工作者的数量更改为3（每个节点一个），那么我会开始看到工作以local_or_shuffle模式被推送到远程工作者吗？

任何洞察力或建议都是非常感谢的。

除了下面所选的答案之外，我相信在具有平行度的螺栓上选择SHUFFLE，然后在后续螺栓上选择LOCAL_OR_SHUFFLE，也将确保所有工人保持忙碌，同时享受将后续工作保持在本地的潜在速度效益。

Answer 1

1. 我很确定这是4个本地的（使用Storm UI，您可以单击一个螺栓，查看每个执行器部署在哪里，哪个执行器获得数据，哪个没有--因此您可以查看标识每个工作进程的主机/端口来验证这一点）
2. 我想是的。使用Storm UI，您可以看到“Capacity”列，显示每个执行器的负载；以便您可以进行验证。
3. 为什么要将它们最大？你会得到什么？
4. 如果你只有3个工人，我实际上不确定是否会考虑所有的本地执行者。但即使这样，问题又是，你会得到什么？

关于这一点的一些一般性评论：如果您只有3个节点，从性能的角度来看，使用比节点更多的工作者买不到多少东西。唯一的性能优势是每个内部“dispatcher线程”的负载较少（参见http://www.michael-noll.com/blog/2013/06/21/commanding-storm-internal-message-buffers/）。由于worker JVM本质上是多线程的，您可以将更多的执行器分配给单个worker--只要您的机器有足够的内核，您就会获得您所希望的速度。

每个拓扑使用比可用节点更多的工作者的主要目的实际上是为了获得更好的容错能力。如果一个工作JVM失败，那么执行器就会减少。一个supervisor可以拥有多个工作JVM的原因是拓扑隔离。单个工作JVM将只执行来自单个拓扑的spouts/bolts。因此，如果要在一台主机上部署多个拓扑，则每个拓扑至少需要每个主机一个工作者。

关于local-or-shuffle：如果您使用local-of-shuffle，为什么您会担心不是所有的下游执行者都得到分配的工作呢？如果本地服务器可以处理负载，那么拓扑结构就可以正常运行...如果不能处理负载，数据将自动分配给其他数据。所以我不理解您对并非所有执行者都获得输入数据的担忧。

此外，如果您想让所有执行者都忙，为什么不使用shuffle而不是local-or-shuffle呢？这保证了所有执行者获得完全相同的工作份额。