有多少数据加载到二级和三级缓存中？

Question

如果我有这门课：

class MyClass{
    short a;
    short b;
    short c;
};

我用这段代码对上面的内容进行计算：

std::vector<MyClass> vec;
//
for(auto x : vec){
    sum = vec.a * (3 + vec.b) / vec.c;
}

我知道CPU只从一级缓存加载它所需的数据，但当一级缓存从二级缓存检索数据时，它会加载整个“缓存线”（可能包含一些它不需要的字节数据）。

二级缓存从三级缓存加载多少数据，三级缓存从主存加载多少数据？它是根据页面定义的吗？如果是，根据不同的二级/三级缓存大小，这个答案会有什么不同？

Answer 1

这在某种程度上取决于平台的ISA和微体系结构。最近基于x86-64的微体系结构在所有级别的缓存层次结构中使用64字节行。

通常有符号的短路需要两个字节，每个字节意味着MyClass除了类开销之外还需要6个字节。如果你的C实现存储了向量

明智的做法是，由于您以一种非常可预测的模式访问元素，因此硬件预取器应该启动并获取它预期在未来使用的合理数量的数据。这可能会为缓存层次结构的各个级别带来超出您需要的内容。它会因芯片而异。

Answer 2

二级和三级缓存还具有比虚拟内存系统页小的缓存线。二级和三级缓存线的大小大于或等于一级缓存线的大小，通常是一级缓存线大小的两倍。

对于最新的x86处理器，所有缓存都使用相同的64字节缓存线大小。（早期的奔腾4处理器有64字节的一级缓存线和128字节的二级缓存线。）

IBM的POWER7在L1、L2和L3中使用128字节缓存块。（然而，POWER4在L1和L2中使用128字节块，而在片外L3中使用512字节块。扇区块为子块提供有效位。对于L2和L3缓存，扇区允许在整个系统中使用单个一致性大小。）

在最后一级缓存中使用更大的缓存线大小可以减少标记开销，并有助于处理器和主内存之间的长突发访问（更长的突发可以提供更多带宽，并有助于更广泛的纠错和DRAM芯片冗余），同时允许其他级别的缓存和缓存一致性使用更小的块，从而减少带宽使用和容量浪费。（大型末级缓存块还提供预取效果，由于末级缓存的容量相对较高，其缓存污染问题不太严重。但是，硬件预取可以在缓存容量浪费较少的情况下实现相同的效果。）对于较小的缓存（例如，典型的一级缓存），逐出发生的频率更高，因此可以利用空间局部性的时间跨度更小（即，在逐出缓存线之前，更有可能只使用一个较小块中的数据）。更大的缓存线还减少了可用块的数量，在某种意义上降低了缓存的容量；这种容量减少对于小型缓存来说尤其成问题。