Заставить встроенные функции AVX использовать вместо этого инструкции SSE

Воспользуйтесь библиотекой векторных классов Agner Fog и добавьте это в командную строку в Visual Studio: -D__SSE4Vec8f_ -D__XOP__.

Затем используйте вектор размера AVX, например Vec8f для восьми чисел с плавающей запятой. Когда вы компилируете без включения AVX, он будет использовать файл vectorf256e.h, который имитирует AVX с двумя регистрами SSE. Например, Vec8f наследуется от Vec256fe, которое начинается так:

class Vec256fe {
protected:
    __m128 y0;                         // low half
    __m128 y1;                         // high half

Если вы компилируете с /arch:AVX -D__XOP__, VCL вместо этого будет использовать файл vectorf256.h и один регистр AVX. Тогда ваш код работает для AVX и SSE с изменением только переключателя компилятора.

Если вы не хотите использовать XOP, не используйте -D__XOP__.

Как отметил Питер Кордес в своем ответе, если ваша цель состоит только в том, чтобы избежать 256-битной загрузки / сохранения, вам все равно могут понадобиться инструкции в кодировке VEX (хотя не ясно, что это будет иметь значение, за исключением некоторых особых случаев). Вы можете сделать это с помощью векторного класса, подобного этому

Vec8f a;
Vec4f lo = a.get_low();  // a is a Vec8f type
Vec4f hi = a.get_high();
lo.store(&b[0]);         // b is a float array
hi.store(&b[4]);

затем скомпилируйте с /arch:AVX -D__XOP__.

Другой вариант - один исходный файл, который использует Vecnf, а затем выполняет

//foo.cpp
#include "vectorclass.h"
#if SIMDWIDTH == 4
typedef Vec4f Vecnf;
#else
typedef Vec8f Vecnf;
#endif  

и скомпилируйте вот так

cl /O2 /DSIMDWIDTH=4                     foo.cpp /Fofoo_sse
cl /O2 /DSIMDWIDTH=4 /arch:AVX /D__XOP__ foo.cpp /Fofoo_avx128
cl /O2 /DSIMDWIDTH=8 /arch:AVX           foo.cpp /Fofoo_avx256

Это создаст три исполняемых файла с одним исходным файлом. Вместо того, чтобы связывать их, вы можете просто скомпилировать их с /c, и они сделают диспетчер ЦП. Я использовал XOP с avx128, потому что не думаю, что есть веские причины использовать avx128, кроме как на AMD.

Вы не хотите использовать инструкции SSE. Вы хотите, чтобы хранилища по 256 байт выполнялись как два отдельных хранилища по 128 байт, но с инструкциями 128 байт, закодированными в кодировке VEX. т.е. 128b AVX vmovups.

gcc имеет параметры -mavx256-split-unaligned-load и ...-store (включены как часть -march=sandybridge, например, предположительно также для семейства Bulldozer (-march=bdver2 - piledriver). Это не решает проблему, когда компилятор знает, что память выровнена, хотя.

Вы можете переопределить обычное внутреннее хранилище 256b с помощью макроса, такого как

// maybe enable this for all BD family CPUs?

#if defined(__bdver2) | defined(PILEDRIVER) | defined(SPLIT_256b_STORES)
   #define _mm256_storeu_ps(addr, data) do{ \
      _mm_storeu_ps( ((float*)(addr)) + 0, _mm256_extractf128_ps((data),0)); \
      _mm_storeu_ps( ((float*)(addr)) + 4, _mm256_extractf128_ps((data),1)); \
   }while(0)
#endif

gcc определяет __bdver2 (Bulldozer версии 2) для Piledriver (-march=bdver2).

Вы можете сделать то же самое для (выровненного) _mm256_store_ps или просто всегда использовать невыровненный внутренний.

Компиляторы оптимизируют _mm256_extractf128(data,0) до простого преобразования. Т.е. он должен просто скомпилироваться в

vmovups       [rdi], xmm0         ; if data is in xmm0 and addr is in rdi
vextractf128  [rdi+16], xmm0, 1

Однако тестирование на godbolt показывает, что gcc и clang не работают, а затем извлекаются в регистр и затем магазин. ICC правильно генерирует последовательность из двух инструкций.