У меня есть большая программа на С++, которая работает с использованием mpirun и включает многопоточный FFTW.
Все действия FFTW выполняются с использованием класса-оболочки. Я не буду публиковать весь класс, так как он содержит разные структуры и классы, но соответствующая часть конструктора:
int N_threads;
fftw_complex *work;
fftw_plan forward,backward;
...
...
if(!fftw_init_threads()) error("Failed to initialize multitread fftw at nfft.h");
int max_thread=omp_get_max_threads();
fftw_plan_with_nthreads(N_threads);
if((!slave)&(max_thread<N_threads)) printf("A request to create an fftw with %i threads, the maximum available thread number is %i \n",N_threads,max_thread);
for (int i=0; i < N.Dimension(); ++i) siz *= N(i);
work = (fftw_complex*) fftw_malloc(sizeof(fftw_complex)*siz);
int sign = FFTW_FORWARD;
forward = fftw_plan_dft(N.Dimension(),&N(0), work, work,sign,Flags);
sign = FFTW_BACKWARD;
backward = fftw_plan_dft(N.Dimension(),&N(0), work, work, sign,Flags);
а деструктор включает в себя следующие команды:
cfftw_free(work);
if (forward) fftw_destroy_plan(forward);
if (backward) fftw_destroy_plan(backward);
fftw_cleanup_threads();
во время уничтожения некоторых прогонов на некоторых узлах mpirun я получаю ошибку сегментации со следующим сообщением
[nina14:13154] [ 0] /lib/x86_64-linux-gnu/libpthread.so.0(+0x10340) [0x7ff474164340]
[nina14:13154] [ 1] /usr/lib/x86_64-linux-gnu/libfftw3.so.3(+0x2a36c) [0x7ff47550636c]
[nina14:13154] [ 2] /usr/lib/x86_64-linux-gnu/libfftw3.so.3(fftw_plan_awake+0x16) [0x7ff4754ff626]
[nina14:13154] [ 3] /usr/lib/x86_64-linux-gnu/libfftw3_threads.so.3(+0x31d0) [0x7ff4752d81d0]
[nina14:13154] [ 4] /usr/lib/x86_64-linux-gnu/libfftw3.so.3(fftw_plan_awake+0x16) [0x7ff4754ff626]
[nina14:13154] [ 5] /usr/lib/x86_64-linux-gnu/libfftw3.so.3(fftw_destroy_plan+0x13) [0x7ff4755cf723]
Я слышал, что утечку памяти трудно найти, но я просмотрел все данные, которые мог, и все еще не смог найти источник.
У valgrind, кажется, есть проблемы с отслеживанием символов, используемых mpirun, и даже при работе с -v --leak-check=full mpirun --trace-children=yes
мониторинг прекращался сразу после того, как mpirun был запущен с Syscall param writev(vector[...]) points to uninitialised byte(s)
, я не мог дать никакой ценной (для меня) информации.
Я ищу как подсказки, как решить эту ошибку, так и советы по использованию valgrind или других программ для ее обнаружения.
РЕДАКТИРОВАТЬ: в конце концов я смог запустить valgrind непосредственно в исполняемом файле (без параметров mpirun, и он указывал на ту же область:
==21869== Invalid read of size 8
==21869== at 0x5BFB36C: ??? (in /usr/lib/x86_64-linux-gnu/libfftw3.so.3.3.2)
==21869== by 0x5BF4625: fftw_plan_awake (in /usr/lib/x86_64-linux-gnu/libfftw3.so.3.3.2)
==21869== by 0x5BF4625: fftw_plan_awake (in /usr/lib/x86_64-linux-gnu/libfftw3.so.3.3.2)
==21869== by 0x5CC4722: fftw_destroy_plan (in /usr/lib/x86_64-linux-gnu/libfftw3.so.3.3.2)
==21869== by 0x4BAB29: CartesianInterpreter::~CartesianInterpreter() (nfft.h:216)
и
==21869== Process terminating with default action of signal 11 (SIGSEGV)
==21869== Access not within mapped region at address 0x790
==21869== at 0x5BFB36C: ??? (in /usr/lib/x86_64-linux-gnu/libfftw3.so.3.3.2)
==21869== by 0x5BF4625: fftw_plan_awake (in /usr/lib/x86_64-linux-gnu/libfftw3.so.3.3.2)
==21869== by 0x5BF4625: fftw_plan_awake (in /usr/lib/x86_64-linux-gnu/libfftw3.so.3.3.2)
==21869== by 0x5CC4722: fftw_destroy_plan (in /usr/lib/x86_64-linux-gnu/libfftw3.so.3.3.2)
==21869== by 0x4BAB29: CartesianInterpreter::~CartesianInterpreter() (nfft.h:216)
как заставить fftw_plan_awake вызвать утечку памяти?
EDIT2: как было предложено, я прикрепляю большую часть исходного кода (просто скопируйте и вставьте)
class fftwizers {
public:
int N_threads;
IVector N;
CVector Work;
fftw_complex *work;
fftw_plan forward,backward;
fftwizers(){}
fftwizers(IVector& iN,int n_threads=default_threads,unsigned Flags=FFTW_MEASURE):N(iN),N_threads(n_threads)
{
cfftwizers(Flags);
}
fftwizers(IVector& iN,CVector &input,int n_threads=default_threads,unsigned Flags=FFTW_MEASURE):N(iN),N_threads(n_threads)
{
cfftwizers(Flags);
// input.ReDimension(Work.Dimension(),(complex*) &work[0]);
input.ReDimension(Work);
}
fftwizers(int n,int n_threads=default_threads,unsigned Flags=FFTW_MEASURE):N(1),N_threads(n_threads)
{
N(0) = n;
cfftwizers(Flags);
}
void ReDimension(IVector& iN,int n_threads=default_threads,unsigned Flags=FFTW_MEASURE)
{
N.ReDimension(iN);
N_threads=n_threads;
cfftwizers(Flags);
}
void ReDimension(int n,int n_threads=default_threads,unsigned Flags=FFTW_MEASURE)
{
N.ReDimension(1);
N(0) = n;
N_threads=n_threads;
cfftwizers(Flags);
}
void cfftwizers(unsigned Flags)
{
int siz = 1;
if(!fftw_init_threads()) error("Failed to initialize multitread fftw at nfft.h");
int max_thread=omp_get_max_threads();
fftw_plan_with_nthreads(N_threads); // every palns created after this line will use ## threads
if((!slave)&(max_thread<N_threads)) printf("A request to create an fftw with %i threads, the maximum available thread number is %i \n",N_threads,max_thread);
for (int i=0; i < N.Dimension(); ++i) siz *= N(i);
//omp_set_num_threads(N_threads);
//omp_set_dynamic(false);
//work = fftw_alloc_complex(siz);
//fftw_complex *work = (fftw_complex*) fftw_malloc(sizeof(fftw_complex)*siz);
work = (fftw_complex*) fftw_malloc(sizeof(fftw_complex)*siz);
Work.ReDimension(siz,(complex*) &work[0]);
// if(!slave) printf("\nBuilding fftwizer with %i as a flag",Flags);
int sign = FFTW_FORWARD;
forward = fftw_plan_dft(N.Dimension(),&N(0), work, work,sign,Flags);
sign = FFTW_BACKWARD;
backward = fftw_plan_dft(N.Dimension(),&N(0), work, work, sign,Flags);
}
~fftwizers()
{
fftw_free(work);
if (forward) fftw_destroy_plan(forward);
if (backward) fftw_destroy_plan(backward);
fftw_cleanup_threads();
}
void go(int sign,CVector& Arr)
{
Work = Arr;
if (sign==FFTW_FORWARD)
fftw_execute(forward);
else
... ...