控制每秒吞吐量

Question

我有一个类女巫负责向客户端发送数据，所有其他类在需要发送数据时都使用这个。让我们称之为“数据ender.class”。

现在客户端要求我们将吞吐量控制在每秒最多50次调用。

我需要在这个类上创建一个algoritm（如果可能的话），以保持当前秒的调用次数，如果它达到50的最大值，保持进程要么睡眠或某事，并继续而不丢失数据。也许我必须实现一个队列或比简单的睡眠更好的东西。我需要建议或遵循的方向。

为了简单起见，想象一下每个人都在使用这样的东西，我现在无法改变他们对我的称呼。post（）返回是同步的，但可能我可以更改（还不确定）：

DataSender ds = new DataSender();
ds.setdata(mydata);
if (ds.post()) {
   //data send succesfull
}

Answer 1

如果我没弄错的话，你想要的是节流或限速。

正如Andrew S指出的，您将需要一个队列来容纳额外的请求和一个发送方算法。

要点是，因为您没有立即发送数据，所以呼叫者需要意识到，当他们的呼叫返回时，数据不一定会发送。通常发送者不会高兴，如果他们的呼叫返回，他们假设数据被发送，然后数据丢失。在这种情况下，数据可能丢失的原因有很多。正如Andrew S所指出的，让发件人意识到这将是一个异步发送队列，也许在成功发送时会有确认，这将是一个更安全或正确的方法。

您需要决定队列的大小，您必须限制大小，否则您可以运行内存溢出。您需要决定当队列已满时请求会发生什么。此外，当终端无法访问时会发生什么（服务器关闭，网络问题，太阳耀斑），继续接受html" target="_blank">数据排队或拒绝/抛出异常。

提示：如果你有50个请求的限制，不要先爆开50个请求，然后再睡1秒。计算发送之间的间隔，发送一个请求，做一个短间隔睡眠。

Pro提示：如果发送的新数据使之前请求发送但尚未发送的数据无效，则可以通过从队列中删除无效数据来优化发送的数据。这叫做合并。通常的例子是股市价格。假设你十秒钟前收到ACME 100的价格，无论出于什么原因，数据都没有发送。如果您现在收到ACME 101的新价格，发送100价格记录通常没有用处，只需发送101价格即可。