VTune 分析未显示多态函数分支预测的指标？

Question

我正在分析处理数百万条消息的两种设计之间的差异。一种设计使用多态，另一种不使用——每个消息都将由多态子类型表示。

我已经使用 VTune 分析了这两种设计。高级摘要数据似乎很有意义 - 与使用IF语句实现的非多态版本相比，多态设计具有更高的“分支误判”率，更高的CPI和更高的“ICache未命中”率。

多态设计有一行源代码，如下所示：

object->virtualFunction();

这被称为数百万次（其中子类型每次都改变）。由于分支目标预测失误/指令未命中，我预计多态设计会更慢。如上所述，VTune“摘要”选项卡似乎证实了这一点。然而，当我转到源代码行旁边的度量时，绝对没有度量，除了：

• 填充管道槽总数-

没有分支预测列具有数据，指令缓存也不会丢失列？？

有人能评论一下这是否明智吗？对我来说，它没有——对于一行多态代码，分支目标将在每条消息中不断变化，怎么可能没有分支错误预测或指令缓存丢失统计？

这不能是由于编译器优化/内联，因为编译器不知道要优化的对象的子类型。

应如何使用 VTune 分析多态性的开销？

Answer 1

您不会在指令本身上看到分支预测失误，因为样本将在分支之后的下一条指令上“聚合”。

适用于所有非精确事件（末尾没有_PS）。人们可能很容易通过检查常规代码配置文件来找到它。例如，在更高的可能性下，人们会发现在简单的添加物上有更多的CPU_CLK_UNHALTED样本，而不是在添加之前出现的重imul上。

为了在事件发生的地方看到“精确的”指令，你必须使用精确的事件，例如< code > BR _ MISP _返回。ALL _ branch _ PS 。

我不是100%确定这个“问题”的真正性质，我知道应该可以解决它，但出于某种原因VTune采样驱动程序的人不想这样做。我认识一个人，他在过去6年里一直在与这个问题作斗争，每次我检查asm VTune配置文件时，我都会考虑到这一点：）

PS。关于虚拟函数的原始测试。我也测试过，它确实产生了很多分支预测失误。函数指针也是如此。解决这个问题的一个方法是，如果可能的话，使用模板类。

Answer 2

我将尝试回答问题的第一部分：

有人能评论一下这是否明智吗？对我来说，它没有——对于一行多态代码，分支目标将在每条消息中不断变化，怎么可能没有分支错误预测或指令缓存丢失统计？

这不能是由于编译器优化/内联，因为编译器不知道要优化的对象的子类型。

实际上，编译器有一种方法可以内联调用虚拟函数，这是一种有趣的技巧，当我了解到这一点时，我感到惊讶。

您可以观看Eric Brumer的演讲以了解更多详细信息，从22:30分钟开始，他谈到了间接呼叫优化。

基本上，编译器不是向该虚函数指针发出简单的跳转指令，而是首先添加一些比较，并且对于一些已知的指针值预测调用的特定虚函数，然后该调用可以内联到该分支中。在这种情况下，不可预测的指针值跳转变成了一个简单的比较分支预测，而现代CPU擅长于此。因此，如果大多数调用将进入相同的特定虚函数实现，您可能会看到良好的预测数和低指令缓存未命中数。

我建议研究该函数调用的反汇编。它是使用vtable指针间接跳转到代码，还是通过一些优化避免vtable跳转。

如果编译器未优化调用，则 CPU 仍可通过某种方式进行推测，请深入研究分支目标缓冲区。例如，如果在同一类型的对象上以紧密循环方式调用此函数，则无论它是否是虚拟的，都可以预测其地址...

HTH