在着色器上计算归一化设备坐标会显示不同于在cpu上计算的结果

Question

我已经创建了一个正投影相机，用于我简单的OpenGL2D渲染器。目前我有一个问题，当我在着色器上计算它们时，计算的归一化设备坐标是错误的，但当我在cpu上计算它们时，我得到了想要的结果。

我使用以下公式创建了一个正投影矩阵：

2 / (right - left), 0, 0, -((right + left) / (right - left)),
0, 2 / (top - bottom), 0, -((top + bottom) / (top - bottom)),
0, 0, -2 / (zFar - zNear), -((zFar + zNear) / (zFar - zNear)),
0, 0, 0, 1

其中右=1280，左=0，上=0，下=720，zFar=1.0和zNear=-1.0。

因此，如果我使用以下顶点位置创建一个矩形：

float vertices[5 * 4] = {
    //vertex pos                tex pos
    0.0f,    720.0f, 0.0f,      0.0f, 0.0f, //bottom left
    1280.0f, 720.0f, 0.0f,      1.0f, 0.0f, //bottom right
    1280.0f, 0.0f,   0.0f,      1.0f, 1.0f, //top right
    0.0f,    0.0f,   0.0f,      0.0f, 1.0f  // top left
};

它应该导致一个矩形填充整个屏幕。

为了计算归一化的设备坐标，我使用以下公式：

ViewProjectionMatrix * Transform * Position

layout(location = 0) in vec3 a_Position;
layout(location = 1) in vec2 a_TexCoord;

uniform mat4 u_ViewProjection;
uniform mat4 u_Transform;
uniform vec4 position;
out vec2 v_TexCoord;

void main()
{
    v_TexCoord =  a_TexCoord;
    gl_Position = u_ViewProjection * u_Transform * vec4(a_Position, 1.0);
}

Mat4x4f transform = Mat4x4f::translate(Mat4x4f(1.0f), Vector3f(0.0f, 0.0f, 0.0f)) * 
Mat4x4f::scale(Vector3f(1.0f, 1.0f, 1.0f));

// ViewProjectionMatrix * Transform * Position
Vector4f tl = camera.getViewProjectionMatrix() * transform * Vector4f(0.0f, 0.0f, 0.0f, 1.0f); 

所以我的问题...是我在着色器中做错了什么，还是可能是其他原因造成的？

Answer 1

您必须transpsoe这些矩阵，因为OpenGL矩阵是以列为主的顺序存储的。

参见OpenGL着色语言4.6、5.4.2向量和矩阵构造函数，第108页：

为了通过指定向量或标量来初始化矩阵，将组件按列为主的顺序分配给矩阵元素：

mat4(float, float, float, float,  // first column
     float, float, float, float,  // second column
     float, float, float, float,  // third column
     float, float, float, float); // fourth column

  c0  c1  c2  c3            c0  c1  c2  c3
[ Xx  Yx  Zx  Tx ]        [  0   4   8  12 ]
[ Xy  Yy  Zy  Ty ]        [  1   5   9  13 ]
[ Xz  Yz  Zz  Tz ]        [  2   6  10  14 ]
[  0   0   0   1 ]        [  3   7  11  15 ]

[ Xx, Xy, Xz, 0, Yx, Yy, Yz, 0, Zx, Zy, Zz, 0, Tx, Ty, Tz, 1 ]

2 / (right - left), 0,                  0,                   0,
0,                  2 / (top - bottom), 0,                   0,
0,                  0,                  -2 / (zFar - zNear), 0,
-((right + left) / (right - left)), -((top + bottom) / (top - bottom)), -((zFar + zNear) / (zFar - zNear)), 1

另一种选择是在顶点着色器中颠倒乘法顺序：

gl_Position = vec4(a_Position, 1.0) * u_Transform * u_ViewProjection;

参见GLSL编程/向量和矩阵运算：

如果向量从左边乘到矩阵，则结果对应于从左边乘到矩阵的行向量。这相当于将一个列向量乘以从右边转置的矩阵：