разбор строки с помощью strtok_r

Не существует единого способа сделать это с помощью strtok_r. Поскольку ваш разделитель представляет собой один символ, вы всегда можете восстановить нужную строку, вставив разделитель обратно, если последним символом токена, возвращаемого strtok_r, является '\'.

#include <stdio.h>
#include <string.h>

int main()
{
  char str[] = "abcd \"efgh [data\\]\" pqrl 12fgd]";
  char *tokens[2] = {0};
  char *pToken = str;
  unsigned int i = 0;

  for( tokens[i] = strtok_r( str, "]", &pToken ); ++i < 2; 
    tokens[i] = strtok_r( NULL, "]", &pToken ) ) {
  }

  for( i = 0; i < 2; ++i ) {
    printf( "token %d = %s\n", i, tokens[i] );
  }

  for( i = 0; i < 2; ++i ) {
    if( tokens[i][strlen(tokens[i]) - 1] == '\\' ) {
      tokens[i][strlen(tokens[i])] = ']';
    }
  }

  printf( "output = %s\n", str );

  return 0;
}

Это выводит:

token 0 = abcd "efgh [data\
token 1 = " pqrl 12fgd
output = abcd "efgh [data\]" pqrl 12fgd

Вы могли бы сделать это с strchr. Вот как я бы попытался это сделать (непроверенный):

p = str;
while ((p = strchr(p, ']')) {
    if (p > str && *(p-1) != '\')
        /* This is it. */

strtok ищет любой одиночный символ в наборе для поиска. Вы можете разделить на ], а затем проверить, какие из них имеют предшествующий \, но вы не можете искать с ним регулярное выражение.