大量锈蚀Thread的性能下降

Question

我正在Rust中创建一个无闩锁并发哈希映射。吞吐量曲线看起来就像我预期的那样，最多可达16个线程，此时性能将下降。

吞吐量（MOps/秒）与线程数

我使用了一个带有48个vCPU和200GB RAM的Google云实例。我尝试启用/禁用超线程，但没有明显的效果。

以下是我如何生成线程：

for i in 0..num_threads {
    //clone the shared data structure
    let ht = Arc::clone(&ht);

    let handle = thread::spawn(move || {
        for j in 0..adds_per_thread {
            //randomly generate and add a (key, value)
            let key = thread_rng().gen::<u32>();
            let value = thread_rng().gen::<u32>();
            ht.set_item(key, value);
        }
    });

    handles.push(handle);
}

for handle in handles {
    handle.join().unwrap();
}

我没有主意了；我的Rust代码对于多线程是否正确？

Answer 1

如果您的所有线程都将所有时间花在无锁数据结构上，那么是的，一旦您有足够的线程，就会出现争用。有了足够的写入程序，它们将更频繁地争夺表中的同一缓存线。（而且，在PRNG中花费的时间可能不会隐藏对缓存或DRAM共享带宽的争用）。

您可能会开始遇到更多CAS重试之类的事情，包括任何争用退避机制。此外，线程将遭受缓存未命中，甚至内存顺序错误猜测管道也会从一些原子读取中清除；并非所有内容都是原子RMW或写入。

这不是无锁数据结构的正常用例；通常，您将它们与执行重要工作的代码一起使用，而不是对它们进行重击，因此实际争用很低。此外，hashmap的实际工作负载很少是只写的（尽管如果您只想消除重复数据，可能会发生这种情况）。

阅读量表非常好，读者的数量，但写会击中竞争。