Как использовать шаблоны C ++ в ядрах OpenCL?

Есть старый способ эмуляции шаблонов на чистом языке C. Он основан на включении одного файла несколько раз (без включения защиты). Поскольку OpenCL имеет полнофункциональный препроцессор и позволяет включать файлы, этот трюк можно использовать.

Вот хорошее объяснение: http://arnold.uthar.net/index.php?n=Work.TemplatesC

Это по-прежнему намного сложнее, чем шаблоны C ++: код должен быть разделен на несколько частей, и вы должны явно создать экземпляр каждого экземпляра шаблона. Кроме того, похоже, что вы не можете делать некоторые полезные вещи, такие как реализация факториала в качестве рекурсивного шаблона.

Пример кода

Применим идею к OpenCL. Предположим, что мы хотим вычислить обратный квадратный корень с помощью итерации Ньютона-Рафсона (как правило, это не очень хорошая идея). Однако тип с плавающей запятой и количество итераций могут различаться.

Прежде всего, нам понадобится вспомогательный заголовок ("templates.h"):

#ifndef TEMPLATES_H_
#define TEMPLATES_H_

#define CAT(X,Y,Z) X##_##Y##_##Z   //concatenate words
#define TEMPLATE(X,Y,Z) CAT(X,Y,Z)

#endif

Затем мы пишем шаблонную функцию в "NewtonRaphsonRsqrt.cl":

#include "templates.h"

real TEMPLATE(NewtonRaphsonRsqrt, real, iters) (real x, real a) {
    int i;
    for (i = 0; i<iters; i++) {
        x *= ((real)1.5 - (0.5*a)*x*x);
    }
    return x;
}

Создайте экземпляр этого шаблона в основном файле .cl следующим образом:

#define real float
#define iters 2
#include "NewtonRaphsonRsqrt.cl"  //defining NewtonRaphsonRsqrt_float_2

#define real double
#define iters 3
#include "NewtonRaphsonRsqrt.cl"  //defining NewtonRaphsonRsqrt_double_3

#define real double
#define iters 4
#include "NewtonRaphsonRsqrt.cl"  //defining NewtonRaphsonRsqrt_double_4

А потом можно использовать это так:

double prec = TEMPLATE(NewtonRaphsonRsqrt, double, 4) (1.5, 0.5);
float approx = TEMPLATE(NewtonRaphsonRsqrt, float, 2) (1.5, 0.5);

Я написал экспериментальный инструмент преобразования исходного кода C ++ в OpenCL C. Инструмент компилирует исходный код C ++ (даже некоторый STL) в байт-код LLVM и использует модифицированную версию серверной части LLVM 'C' для дизассемблирования байтового кода в OpenCL 'C'.

См. http://dimitri-christodoulou.blogspot.com/2013/12/writing-opencl-kernels-in-c.html.

Например, этот код, использующий std :: enable_if C ++ 11, может быть преобразован в OpenCL 'C', а затем выполнен на графическом процессоре:

#include <type_traits>

template<class T>
T foo(T t, typename std::enable_if<std::is_integral<T>::value >::type* = 0)
{
    return 1;
}

template<class T>
T foo(T t, typename std::enable_if<std::is_floating_point<T>::value >::type* = 0)
{
    return 0;
}

extern "C" void _Kernel_enable_if_int_argument(int* arg0, int* out)
{
    out[0] = foo(arg0[0]);
}

Вы можете взглянуть на VexCL, который использует шаблоны выражений для генерации ядер OpenCL. Вы можете получить некоторые идеи о том, как заставить OpenCL хорошо работать с шаблонами.

Еще одна библиотека, над которой активно ведется работа, - это Boost.Compute, который является слоем поверх OpenCL, позволяющим использовать общие Код C ++.

Общая идея состоит в том, чтобы создать ядро ​​как строку C более или менее и передать ее среде выполнения OpenCL для компиляции и выполнения.

Если вы действительно настроены сделать это, вы можете перенаправить свой компилятор C ++ на создание NVidia PTX (и Clang, скорее всего, скоро сможет это сделать). Но таким образом вы привяжете свой код к оборудованию NVidia.

Другой способ - реализовать собственный бэкэнд для LLVM, основанный на текущем CBE, который будет генерировать чистый код OpenCL вместо C.

Обратите внимание, что новый стандарт SYCL Khronos имеет встроенную поддержку шаблонов C ++ в OpenCL.

PyOpenCL теперь использует Mako в качестве механизма шаблонов. http://www.makotemplates.org/