Куда и почему должен указывать указатель кадра x64? (Windows x64 ABI)

Из диаграммы ясно видно, что указатель кадра указывает на нижнюю часть фиксированной части кадра локального стека. «Фиксированная часть» - это часть, размер которой не изменяется и положение которой фиксировано относительно начального указателя стека. На схеме это обозначено как «Локальные переменные и сохраненные энергонезависимые регистры» [1].

Точное расположение указателя кадра не имеет значения для операционной системы, потому что с теоретико-информационной точки зрения локальные переменные неотличимы от памяти, выделенной alloca сразу после входа в функцию.

void function1()
{
  int a;
  int *b = (int*)alloca(sizeof(int));
  ...
}

void function2()
{
  int& a = *(int*)alloca(sizeof(int));
  int *b = (int*)alloca(sizeof(int));
  ...
}

Операционная система не может различить эти две функции. Оба они хранят a в стеке непосредственно под энергонезависимыми регистрами.

Эта эквивалентность является причиной того, что на диаграмме написано «в целом». На практике компиляторы указывают его в указанном месте, но теоретически они могут указать его в любом месте внутри локального фрейма, если расстояние от указателя фрейма до адреса возврата является постоянным.

Функция должна сообщить операционной системе, где находится указатель кадра, чтобы стек можно было развернуть во время обработки исключения. Без этой информации было бы невозможно пройти по стеку, потому что размер фрейма варьируется.

[1] Это можно сделать из того факта, что в тексте указано, что указатель фрейма указывает на «основание фиксированной части стека», а на диаграмме говорится: «Указатель фрейма обычно будет указывать сюда», и он указывает на база локальных переменных и сохраненных энергонезависимых регистров. Предполагая, что текст и диаграмма согласуются, это означает, что фиксированная часть стека совпадает с локальными переменными и сохраненными энергонезависимыми регистрами. Это тот же самый вывод, который вы делаете каждый день, даже не осознавая этого. Например, если в рассказе говорится

Салли позвала брата. "Билли, ты где?"

Вы можете сделать вывод, что Билли - брат Салли.

alloca предназначен для использования с размером, доступным только во время выполнения. Таким образом, он изменит указатель стека на величину, неизвестную во время компиляции. Обычно вы можете обращаться к своим локальным переменным и аргументам в стеке относительно указателя стека из-за фиксированного макета, но alloca портит это, следовательно, требуется другой стабильный регистр. Этот указатель кадра может указывать куда угодно, если вы знаете отношение к фиксированной области.

Указатель кадра также удобен, когда приходит время освободить alloca память, потому что вы можете просто восстановить указатель стека в известное место, не беспокоясь о том, насколько изменился указатель стека.

Я не думаю, что ABI требует указатель фрейма как таковой, или что он должен быть rbp, или что он должен указывать на какое-то конкретное место (отказ от ответственности: я не использую окна).