Что происходит на оборудовании при запуске параллельной программы

Почти невозможно ответить на ваш вопрос в рамках «ответа» SO - вам нужно будет прочитать о реализации параллельной обработки для конкретной архитектуры вашей машины, если вы хотите получить «настоящий» ответ. Короткий ответ: «это зависит». Но ваша программа может работать на обоих процессорах, на любом из четырех ядер или на всех; Ключ к пониманию здесь заключается в том, что вы можете в какой-то степени контролировать это с помощью структуры вашей программы, но прелесть OMP заключается в том, что обычно «вам должно быть все равно». Если потоки работают одновременно, каждый из них обычно получает ядро; но если им нужен доступ к тому же пространству памяти, это может замедлить вас, поскольку «краткосрочные данные» любят жить в кеше процессора (ядра), а это означает, что происходит много перетасовки данных. Вы получите наибольший прирост производительности, если разные потоки НЕ должны совместно использовать память.