Как микшировать аудиофайлы с помощью библиотеки SoX C

Что ж, это возможно, но библиотека вам в этом не поможет.

Просматривая код sox.c, вы можете заметить, что фактический код микширования находится в функции static:

for (ws = 0; ws < olen; ++ws) { /* wide samples */
  if (combine_method == sox_mix || combine_method == sox_mix_power) {
    for (s = 0; s < effp->in_signal.channels; ++s, ++p) { /* sum samples */
      *p = 0;
      for (i = 0; i < input_count; ++i)
        if (ws < z->ilen[i] && s < files[i]->ft->signal.channels) {
          /* Cast to double prevents integer overflow */
          double sample = *p + (double)z->ibuf[i][ws * files[i]->ft->signal.channels + s];
          *p = SOX_ROUND_CLIP_COUNT(sample, mixing_clips);
        }
    }
/* [...] */

Итак, если вы действительно хотите использовать sox, вы можете использовать его для ввода/вывода файлов, но микширование вам нужно будет сделать самостоятельно.