内部函数编译器生成程序集的问题

Question

我正在使用英特尔SSE/AVX/FMA内部函数来实现一些数学函数的完美内联SSE/AVX指令。

给定以下代码

#include <cmath>
#include <immintrin.h>

auto std_fma(float x, float y, float z)
{
    return std::fma(x, y, z);
}

float _fma(float x, float y, float z)
{
    _mm_store_ss(&x,
        _mm_fmadd_ss(_mm_load_ss(&x), _mm_load_ss(&y), _mm_load_ss(&z))
    );

    return x;
}

float _sqrt(float x)
{
    _mm_store_ss(&x,
        _mm_sqrt_ss(_mm_load_ss(&x))
    );

    return x;
}

clang 3.9生成的程序集-march=x86-64-mfma-O3

std_fma(float, float, float):                          # @std_fma(float, float, float)
        vfmadd213ss     xmm0, xmm1, xmm2
        ret

_fma(float, float, float):                             # @_fma(float, float, float)
        vxorps  xmm3, xmm3, xmm3
        vmovss  xmm0, xmm3, xmm0        # xmm0 = xmm0[0],xmm3[1,2,3]
        vmovss  xmm1, xmm3, xmm1        # xmm1 = xmm1[0],xmm3[1,2,3]
        vmovss  xmm2, xmm3, xmm2        # xmm2 = xmm2[0],xmm3[1,2,3]
        vfmadd213ss     xmm0, xmm1, xmm2
        ret

_sqrt(float):                              # @_sqrt(float)
        vsqrtss xmm0, xmm0, xmm0
        ret

虽然为sqrt生成的代码很好，但与std fma（依赖于编译器内部std：：fma）相比，fma中存在不必要的VxORP（将绝对未使用的xmm3寄存器设置为零）和MOVS指令

GCC 6.2生成的程序集-march=x86-64-mfma-O3

std_fma(float, float, float):
        vfmadd132ss     xmm0, xmm2, xmm1
        ret
_fma(float, float, float):
        vinsertps       xmm1, xmm1, xmm1, 0xe
        vinsertps       xmm2, xmm2, xmm2, 0xe
        vinsertps       xmm0, xmm0, xmm0, 0xe
        vfmadd132ss     xmm0, xmm2, xmm1
        ret
_sqrt(float):
        vinsertps       xmm0, xmm0, xmm0, 0xe
        vsqrtss xmm0, xmm0, xmm0
        ret

这里有很多不必要的vinsertps指令

工作示例：https://godbolt.org/g/q1BQym

默认的x64调用约定在XMM寄存器中传递浮点函数参数，因此应该消除那些vmovs和vinsertps指令。为什么提到的编译器仍然发出它们？有没有可能在没有内联装配的情况下摆脱它们？

我还尝试使用mm\u cvtss\u f32来代替mm\u store\u ss和多个调用约定，但没有改变。

Answer 1

我根据评论、一些讨论和我自己的经验写下了这个答案。

正如Ross Ridge在评论中指出的那样，编译器不够聪明，无法识别只使用了XMM寄存器的最低浮点元素，因此它使用那些vxorpsvinsertps指令将其他三个元素归零。这是绝对不必要的，但你能做什么呢？

需要注意的是，clang 3.9在为Intel Intrinsic生成程序集方面比GCC 6.2（或当前7.0的快照）做得好得多，因为在我的示例中，它只在mm\fmadd\u ss处失败。我还测试了更多的内部函数，在大多数情况下，clang在发出单个指令方面做得很好。

你能做什么

您可以使用标准

这还不够

编译器（如GCC）通过对NaN和无穷大的特殊处理来实现这些函数。因此，除了内部函数之外，它们还可以进行一些比较、分支和可能的errno标记处理。

编译器标记-fno-math-errno-fno-traping-ma确实有助于GCC和clang消除额外的浮点特例和errno处理，因此如果可能，它们可以发出单个指令：https://godbolt.org/g/LZJyaB.

您可以使用-ffast-数学实现相同的效果，因为它还包括上述标志，但它包括的远不止这些，而且那些（如不安全的数学优化）可能是不需要的。

不幸的是，这不是一个可移植的解决方案。它在大多数情况下都有效（请参阅天箭链接），但您仍然依赖于实现。

还有什么

您仍然可以使用内联汇编，它也是不可移植的，更为复杂，还有很多事情需要考虑。尽管如此，对于这样简单的单行指令来说，这是可以接受的。

需要考虑的事情：

第一个GCC/clang和Visual Studio对内联程序集使用不同的语法，Visual Studio不允许在x64模式下使用它。

第二，您需要为AVX目标发出VEX编码指令（3个操作变量，例如vsqrtss xmm0 xmm1 xmm2），为AVX之前的CPU发出非VEX编码指令（2个操作变量，例如sqrtss xmm0 xmm1）。VEX编码指令是3个操作数指令，因此它们为编译器优化提供了更多的自由。为了发挥其优势，必须正确设置寄存器输入/输出参数。因此，下面这样的方法可以完成这项工作。

#   if __AVX__
    asm("vsqrtss %1, %1, %0" :"=x"(x) : "x"(x));
#   else
    asm("sqrtss %1, %0" :"=x"(x) : "x"(x));
#   endif

但以下是VEX的一个糟糕技术：

asm("vsqrtss %1, %1, %0" :"+x"(x));

它可能会产生不必要的移动指令，请检查https://godbolt.org/g/VtNMLL.

第三，正如PeterCordes指出的那样，内联汇编函数可能会丢失公共子表达式消除（CSE）和常量折叠（常量传播）。但是，如果内联asm未声明为volatile，编译器可以将其视为仅依赖于其输入的纯函数，并执行公共子表达式消除，这非常好。

正如彼得所说：

“不要使用内联asm”并不是一条绝对的规则，它只是您在使用之前应该注意并仔细考虑的一点。如果备选方案不符合您的要求，并且最终没有将此内联到无法优化的地方，那么请继续。