在类似LMAX干扰器的模式中，您如何处理较慢的消费者？

Question

对于在x86 Linux上运行的具有多个生产者和单个消费者的lmax中断器（如环形缓冲区）中的慢速消费者，我有一个问题。使用类似于lmax的环形缓冲区模式，您会不断覆盖数据，但如果消费者速度较慢，该怎么办。因此，如果在10个大小的环形缓冲区0-9个环形插槽中，您的消费者位于插槽5上，而您的写入程序现在准备好开始写入插槽15，也就是缓冲区中的插槽5（即：插槽5=15%10），您如何处理这种情况？处理这种情况的典型方式是什么，写入程序仍然按照数据输入的顺序生成数据，而客户端将按照相同的顺序接收数据？这确实是我的问题。下面是关于我的设计的一些细节，它工作得很好，只是我目前没有一个很好的方法来处理这个问题。有多个线程执行写操作，一个线程执行读操作。如果不更改当前项目范围之外的现有设计，我无法引入多个读线程，但如果他们将此作为解决方案，我仍然对您的想法感兴趣。

设计细节

我有一个环形缓冲区，该设计目前有多个生产者线程和一个消费者线程。此部分设计已存在，当前无法更改。我正在尝试使用无锁环形缓冲区删除现有的排队系统。我的情况如下。

该代码在x86 Linux上运行，写入程序有多个线程，读取器有一个线程。读写器从一个插槽开始，并且是原子的

 inline data_type incrementSequence() {                                                                                       
        return m_sequence.fetch_add(1,std::memory_order::memory_order_seq_cst);                                                  
    }   


void updateSequence(data_type aOld, data_type aNew) {                                                                        
        while ( !m_sequence.compare_exchange_weak(aOld, aNew, std::memory_order::memory_order_release, std::memory_order_relaxed)
            if  (sequence() < aNew)  {                                                                                           
                continue;                                                                                                        
            }                                                                                                                    
            break;                                                                                                               
        }                                                                                                                        
    }                   
 inline data_type sequence() const {                                                                                          
        return m_sequence.load(std::memory_order::memory_order_acquire);                                                         
    }       
      

Answer 1

环形缓冲区（或通常的FIFO——不必实现为环形缓冲区）旨在平滑突发流量。尽管生产者可能会突然产生数据，但消费者可以处理稳定的输入流。

如果FIFO溢出，这意味着两件事之一：

1. 你的爆发比你计划的要大。通过增加FIFO大小（或使其大小动态）来解决此问题
2. 你的生产者比你的消费者跑得快。通过增加用于消耗数据的资源（可能更多的线程）来解决这个问题

在我听来，你现在似乎正处于第二个阶段：你的单一消费者的速度根本赶不上生产商。在这种情况下，唯一真正的选择是通过优化单个消费者或增加更多消费者来加速消费。

这听起来也有点像您的消费者在处理数据时可能会将他们的输入数据留在FIFO中，因此FIFO中的该位置一直被占用，直到消费者完成处理该输入。如果是这样，您可以通过简单地让消费者在FIFO开始处理时立即从FIFO中删除输入数据来解决问题。这会释放该插槽，以便生产者可以继续将输入放入缓冲区。

还有一点：使FIFO大小动态可能是一个问题。问题相当简单：它可以掩盖这样一个事实，即您确实存在第二个问题，即没有必要的资源来处理消费者端的数据。

假设生产者和消费者都是线程池，平衡系统的最简单方法通常是使用固定大小的FIFO。如果生产者开始远远领先于消费者，导致FIFO溢出，那么生产者就会开始阻止。这让使用者线程池消耗更多的计算资源（例如，在更多的内核上运行），以赶上生产者。然而，这确实取决于是否能够添加更多消费者，而不是将系统限制为单个消费者。