批处理PubSub请求

Question

// Imports the Google Cloud client library
const PubSub = require(`@google-cloud/pubsub`);

// Creates a client
const pubsub = new PubSub();

/**
 * TODO(developer): Uncomment the following lines to run the sample.
 */
// const topicName = 'your-topic';
// const data = JSON.stringify({ foo: 'bar' });
// const maxMessages = 10;
// const maxWaitTime = 10000;

// Publishes the message as a string, e.g. "Hello, world!" or JSON.stringify(someObject)
const dataBuffer = Buffer.from(data);

pubsub
  .topic(topicName)
  .publisher({
    batching: {
      maxMessages: maxMessages,
      maxMilliseconds: maxWaitTime,
    },
  })
  .publish(dataBuffer)
  .then(results => {
    const messageId = results[0];
    console.log(`Message ${messageId} published.`);
  })
  .catch(err => {
    console.error('ERROR:', err);
  });

Answer 1

如果您想要批处理消息，那么您需要保持发布服务器，并多次调用它的publish。例如，您可以将代码更改为如下所示：

// Imports the Google Cloud client library
const PubSub = require(`@google-cloud/pubsub`);

// Creates a client
const pubsub = new PubSub();


const topicName = 'my-topic';
const maxMessages = 10;
const maxWaitTime = 10000;
const data1 = JSON.stringify({ foo: 'bar1' });
const data2 = JSON.stringify({ foo: 'bar2' });
const data3 = JSON.stringify({ foo: 'bar3' });

const publisher = pubsub.topic(topicName).publisher({
    batching: {
      maxMessages: maxMessages,
      maxMilliseconds: maxWaitTime,
    },
  })

function handleResult(p) {
  p.then(results => {
    console.log(`Message ${results} published.`);
  })
  .catch(err => {
    console.error('ERROR:', err);
  });
}

// Publish three messages
handleResult(publisher.publish(Buffer.from(data1)));
handleResult(publisher.publish(Buffer.from(data2)));
handleResult(publisher.publish(Buffer.from(data3)));

消息的批处理由MaxMessages和MaxMilliseconds属性处理。前者指示批处理中包含的最大消息数。后者指示发布批处理所需等待的最大毫秒数。这些属性在更大的批处理（可能更高效）和发布延迟之间进行了权衡。如果要快速发布许多消息，那么MaxMilliseconds属性不会有太大影响；一旦有十条消息准备好了，客户机库就会向Cloud Pub/Sub服务发出发布请求。但是，如果发布是零星的或缓慢的，那么可能会在有十条消息之前发送一批消息。

在上面的示例代码中，我们对三条消息调用publish。这不足以填满一批并发送。因此，在第一次调用publish之后10,000毫秒，这三条消息将作为批处理发送到Cloud pub/sub。