ошибки с g++ 5 и 6 при использовании дезинфицирующего средства адресов и дополнительных флагов asan для статического порядка инициализации

Это проблема с использованием asan gcc. Я не знаю достаточно, чтобы сказать, что это ошибка (потому что все, что я знаю, исходит из обратного проектирования), но есть, по крайней мере, некоторые возможности для улучшения gcc. Но также asan мог бы быть более надежным в своем обращении с этим случаем.

Что пойдет не так? Для моего объяснения я хотел бы взглянуть на ассемблерный код примера vadikrobot, а затем перейти к вашей проблеме:

static int data = 0; 
static int dummy = data; 
int main() { }

Сначала компилируем без оптимизации: g++ -O0 -S (здесь весь ассемблерный код)

Наиболее важные моменты:

-Есть две глобальные переменные для data и dummy целочисленных статических переменных:

.local  _ZL4data
.comm   _ZL4data,4,4
.local  _ZL5dummy
.comm   _ZL5dummy,4,4

-В секции .init_array отмечены все функции, которые вызываются до main. В нашем случае это _GLOBAL__sub_I_main:

.section    .init_array,"aw"
.align 8
.quad   _GLOBAL__sub_I_main

-Как и ожидалось, глобальные переменные инициализируются где-то в _GLOBAL__sub_I_main:

_GLOBAL__sub_I_main:
    ...
    #in this function is the initialization
    call    _Z41__static_initialization_and_destruction_0ii
    ...

Установив это, давайте взглянем на оптимизированную версию:

1. Переменные static являются локальными и доступны только из этой единицы трансляции, здесь они не используются, поэтому они вообще не используются и поэтому оптимизированы.
2. В секции .init_array ничего нет, потому что нечего инициализировать.
3. странно, есть еще неиспользуемая функция _GLOBAL__sub_I_main, которая просто ничего не делает. Я думаю, что это также должно быть оптимизировано.

Теперь посмотрим на неоптимизированную версию с -fsanitize=address (полный ассемблерный код здесь):

Самое главное: в секции .init_array теперь больше функций, которые нужны для инициализации санитайзера, в итоге все это приводит к тому, что эти важные функции вызываются в таком порядке:

call    __asan_init
call    __asan_register_globals
call    __asan_before_dynamic_init
call    __asan_report_store4
call    __asan_after_dynamic_init

Чем отличается оптимизированная версия?

-Глобалов нет (они все-таки оптимизированы), поэтому __asan_register_globals не вызывается. Хорошо.

-Но странно, что секция .init_array теперь снова содержит ненужный метод _GLOBAL__sub_I_main, который не инициализирует никакие глобальные переменные (они оптимизированы), а вызывает __asan_before_dynamic_init:

_GLOBAL__sub_I_main:
    .cfi_startproc
    subq    $8, %rsp
    .cfi_def_cfa_offset 16
    movl    $.LC0, %edi
    call    __asan_before_dynamic_init
    ...

Проблема с этим: кажется, что не разрешено вызывать __asan_before_dynamic_init без предварительного вызова __asan_register_globals, потому что некоторый указатель кажется NULL - ваша трассировка ошибки является ошибочным утверждением.

Установив это, давайте перейдем к вашей проблеме:

1. static int dummy = reg(); нигде в этой единице перевода не используется и, таким образом, оптимизировано, нет глобальных переменных, и вы будете работать в плохом случае __asan_before_dynamic_init без __asan_register_globals.

2. без static переменная dummy может использоваться из другой единицы перевода и, следовательно, не может быть оптимизирована - существуют глобальные переменные, и поэтому вызывается __asan_register_globals.

3. почему работает версия gcc до 5.0? К сожалению, они не смогли оптимизировать неиспользуемые глобальные static переменные.

Что делать?

1. Вы должны сообщить об этой проблеме в gcc.
2. В качестве обходного пути я бы сделал оптимизацию вручную.

Например:

int& getStatic() {
    static int data=0;
    return data;
}

и удалить статическую переменную dummy и, возможно, также функцию reg(), если она не используется для других целей.

Это должно было быть исправлено в GCC недавно: https://gcc.gnu.org/bugzilla/show_bug.cgi?format=multiple&id=77396