为什么不对类内存类型执行tailcall优化？

Question

struct Vec3{
    double x, y, z;
};

如果类型具有类内存，则调用方为返回值提供空间，并将此存储的地址传递到%RDI中，就像它是函数的第一个参数一样。实际上，这个地址成为一个“隐藏”的第一个参数。此存储区不得通过此参数以外的其他名称与被调用方可见的任何数据重叠。

返回时，%RAX将包含调用方在%RDI中传入的地址。

考虑到这一点，下面的（愚蠢的）函数：

struct Vec3 create(void);

struct Vec3 use(){
    return create();
}

use_v2:
        jmp     create

use:
        pushq   %r12
        movq    %rdi, %r12
        call    create
        movq    %r12, %rax
        popq    %r12
        ret

不用说，对于SSE类的类型（例如，只有2个和不是3个doubles)，会执行尾调优化（至少由gcc和clang，在godbolt上运行）：

struct Vec2{
    double x, y;
};

struct Vec2 create(void);

struct Vec2 use(){
    return create();
}

中的结果

use:
        jmp     create

Answer 1

看起来像是一个漏掉的优化bug，如果还没有为gcc和CLANG打开重复的bug的话，您应该报告这个bug。

（在这种情况下，gcc和clang都有相同的漏掉优化的情况并不罕见；不要仅仅因为编译器没有这样做就认为某些东西是非法的。唯一有用的数据是编译器执行优化的时间：要么是编译器错误，要么至少是一些编译器开发人员根据他们对任何标准的解释认为它是安全的。）

我们可以看到GCC正在返回自己的传入arg，而不是返回create()将在RAX中返回的arg副本。这是错过的优化，阻止了尾调优化。

ABI需要一个具有内存类型返回值的函数来返回RAX¹中的“隐藏”指针。

GCC/CLANG已经意识到，它们可以通过传递自己的返回值空间而不是分配新的空间来避免实际的复制。但是要进行尾呼优化，他们必须意识到可以将被呼叫者的RAX值留在RAX中，而不是将传入的RDI保存在呼叫保留寄存器中。

如果ABI不需要返回RAX中的隐藏指针，我希望gcc/clang在传递传入的RDI作为优化尾盘调用的一部分时不会有问题。

如果调用方希望将地址存储在某个地方（如果是静态地址或堆栈地址），则将指针放在寄存器中只会在调用方中保存LEA。

然而，这种情况接近于它会有用的情况。如果我们将自己的retval空间传递给子函数，我们可能需要在调用后修改该空间。然后，可以方便地访问该空间，例如，在返回之前修改一个返回值。

#define T struct Vec3

T use2(){
    T tmp = create();
    tmp.y = 0.0;
    return tmp;
}

高效手写ASM：

use2:
        callq   create
        movq    $0, 8(%rax)
        retq

# clang -O3
use2:                                   # @use2
        pushq   %rbx
        movq    %rdi, %rbx
        callq   create
        movq    $0, 8(%rbx)
        movq    %rbx, %rax
        popq    %rbx
        retq