Я использую утилиту fxc.exe из directx sdk для компиляции моих шейдеров, а затем загружаю их как массив байтов в свое приложение (с этим кодом):
inline std::vector<char> ReadToByteArray(char* filename)
{
std::ifstream file;
file.open(filename);
file.seekg(0, std::ios::end);
size_t file_size = file.tellg();
file.seekg(0, std::ios::beg);
std::vector<char> data(file_size, 0);
file.read(&data[0], file_size);
return data;
}
А затем создайте его:
std::vector<char> pixelShaderBytecode = ReadToByteArray("myps.pso");
ID3D11PixelShader* shader;
device->CreatePixelShader(pixelShaderBytecode.data(), pixelShaderBytecode.size(), nullptr, &shader);
И все работало хорошо. Пока размер моего шейдера не увеличился до ~ 980 байт. Вот мой код на HLSL:
struct PInput
{
float4 position: SV_POSITION;
float3 normal : NORMAL;
};
cbuffer CBuffer
{
float4 color;
float4 dirs[8];
};
float4 main(PInput input) : SV_TARGET
{
// Example code...
int directionLightsCount = 2;
float intensity = 0.0f;
// Line 1
intensity += saturate(dot(input.normal, -dirs[0].xyz));
// Line 2
//intensity += saturate(dot(input.normal, -dirs[1].xyz));
float ambient = 0.1f;
return color * saturate(ambient + intensity);
}
Проблема в том, что если я раскомментирую строку 2, то получу E_INVALIDARG HRESULT
из метода ID3D11Device::CreatePixelShader
. А также предупреждение от уровня отладки D3D11:
D3D11 ERROR: ID3D11Device::CreatePixelShader: Pixel Shader is corrupt or in an unrecognized format. [ STATE_CREATION ERROR #192: CREATEPIXELSHADER_INVALIDSHADERBYTECODE]
Если я еще раз прокомментирую эту строчку, то все заработает. Если я изменю их (индекс 0 на 1), все будет работать. Единственная разница, которую я вижу, - это размер скомпилированного файла (980 с обеими строками и 916 с только первой строкой)
Вот команда, с помощью которой я компилирую hlsl-код:
C:\Program Files (x86)\Microsoft DirectX SDK (June 2010)\Utilities\bin\x64>fxc /
T ps_5_0 /E "main" /Fo "ps.pso" ps.ps
В чем причина такого поведения? Я что-то важное упустил?
Спасибо за любую помощь.
РЕДАКТИРОВАТЬ: Забыл сказать, что обе версии скомпилированы без ошибок. Также без проблем создается вершинный шейдер (1400 байт). Я использую 11_0 функциональный уровень.