эквивалент gl_FragCoord в вершинном шейдере glsl

Я исправил ваш вершинный шейдер надлежащими терминами и показал вам точную последовательность преобразований, которые на самом деле происходят, когда GL вычисляет gl_FragCoord (оконное пространство).

#version 400
layout (location = 0) in vec4 inPosition; // Always use vec4, it makes life easier!
uniform mat4 MVP; // modelViewProjection
uniform vec2 window;

void main()
{
    // Vertex in clip-space
    vec4 fake_frag_coord  = (MVP * inPosition);     // Range:   [-w,w]^4

    // Vertex in NDC-space
    fake_frag_coord.xyz /= fake_frag_coord.w;       // Rescale: [-1,1]^3
    fake_frag_coord.w    = 1.0 / fake_frag_coord.w; // Invert W

    // Vertex in window-space
    fake_frag_coord.xyz *= vec3 (0.5) + vec3 (0.5); // Rescale: [0,1]^3
    fake_frag_coord.xy  *= window;                  // Scale and Bias for Viewport

    // Assume depth range: [0,1] --> No need to adjust fake_frag_coord.z

    [...]
}

Однако координаты текстуры и координаты оконного пространства - это очень разные вещи. Обычно вам нужны нормализованные координаты для традиционных выборок текстур, это означает, что вам нужны координаты в диапазоне [0,1].

К счастью, оконное пространство и пространство текстуры используют одно и то же соглашение о происхождении (0,0) = нижний левый, поэтому вы можете вырезать строку ниже, чтобы получить соответствующие координаты текстуры:

    fake_frag_coord.xy  *= window;                  // Scale and Bias for Viewport

Я думаю, что ответ Андона М. Коулмана хорош. Однако мне нравится указывать на более общую проблему с подходом, обсуждаемым в вопросе: может вообще не быть значимого положения на экране для вершины.

Вершина может лежать за пределами усеченной пирамиды. Это не будет проблемой, если нарисованные вами вершины гарантированно лежат в усеченной пирамиде или если вы рисуете только точки.

Но не получится, если у вас есть примитивы, пересекающие ближнюю плоскость. Вы можете подумать, что в таком случае вы просто получаете некоторые координаты, которые находятся за пределами [-1,1] в пространстве NDC, и если вы просто используете их для присвоения некоторого выходного значения для вершины, состояние отсечения сделает это правильно. Но это предположение неверно. Вы можете значения, которые идеально находятся в [-1,1] в пространстве NDC, даже для вершин, которые находятся за пределами усеченной пирамиды, и это будет выглядеть так, как если бы вершины лежали спереди камеры для всех вершин. которые на самом деле находятся позади камеры. И никакой последующий этап отсечения не может это исправить.

Единственный способ получить это право - это фактически выполнить операцию отсечения перед делением на w. И это то, чего вы не хотите делать в вершинном шейдере.

Если вы хотите, чтобы это работало в части js, вот как я адаптировал ответ Андона М. Коулмана:

var winW = window.innerWidth;
var winH = window.innerHeight;

camera.updateProjectionMatrix();
// Not sure about the order of these! I was using orthographic camera so it didn't matter but double check the order if it doesn't work!
var MVP = camera.projectionMatrix.multiply(camera.matrixWorldInverse);

// position to vertex clip-space
var fake_frag_coord = position.applyMatrix4(MVP);                       // Range:   [-w,w]^4

// vertex to NDC-space
fake_frag_coord.x = fake_frag_coord.x / fake_frag_coord.w;  // Rescale: [-1,1]^3
fake_frag_coord.y = fake_frag_coord.y / fake_frag_coord.w;  // Rescale: [-1,1]^3
fake_frag_coord.z = fake_frag_coord.z / fake_frag_coord.w;  // Rescale: [-1,1]^3
fake_frag_coord.w = 1.0 / fake_frag_coord.w;                                // Invert W

// Vertex in window-space
fake_frag_coord.x = fake_frag_coord.x * 0.5;
fake_frag_coord.y = fake_frag_coord.y * 0.5;
fake_frag_coord.z = fake_frag_coord.z * 0.5;

fake_frag_coord.x = fake_frag_coord.x + 0.5;
fake_frag_coord.y = fake_frag_coord.y + 0.5;
fake_frag_coord.z = fake_frag_coord.z + 0.5;

// Scale and Bias for Viewport (We want the window coordinates, so no need for this)
fake_frag_coord.x = fake_frag_coord.x / winW;
fake_frag_coord.y = fake_frag_coord.y / winH;