Как использовать CancellationTokenSource для закрытия диалога в другом потоке?

Ваша проблема в том, что ваше окно предварительного просмотра работает в другом потоке. Когда вы инициируете отмену, вы выполняете зарегистрированное действие маркера отмены в этом потоке, а не в потоке, в котором выполняется предварительный просмотр.

Золотым стандартом в таких случаях является не использовать два потока пользовательского интерфейса. Это обычно вызывает проблемы, и работа, которую вам нужно сделать, обычно не стоит того.

Если вы хотите остаться со своим решением или если вы хотите инициировать отмену из фонового потока, вы должны маршалировать операцию закрытия в поток, в котором открыто ваше окно:

Action closeAction = () => previewWindow.Close();
previewWindow.Dispatcher.Invoke(closeAction);

Проблема с вашим кодом

При выборе пункта меню создается второе окно на фоновом потоке:

// Print Preview
public static void PrintPreview(FixedDocument fixeddocument, CancellationToken ct)
{
    // Was cancellation already requested? 
    if (ct.IsCancellationRequested)
          ct.ThrowIfCancellationRequested();

           ............................... 

        // Use my custom document viewer (the print button is removed).
        var previewWindow = new PrintPreview(fixedDocumentSequence);

        //Register the cancellation procedure with the cancellation token
        ct.Register(() => 
               previewWindow.Close() 
        );

        previewWindow.ShowDialog();

    }
}

И то, что я предполагаю

Task.Run(() => PrintPreview(foo, cancel));

Правильное решение — делать все в одном потоке.

public static Task<bool> PrintPreview(FixedDocument fixeddocument, CancellationToken ct)
{
    var tcs = new TaskCompletionSource<bool>();
    // Was cancellation already requested? 
    if (ct.IsCancellationRequested)
          tcs.SetResult(false);
    else
    {
        // Use my custom document viewer (the print button is removed).
        var previewWindow = new PrintPreview(fixedDocumentSequence);

        //Register the cancellation procedure with the cancellation token
        ct.Register(() => previewWindow.Close());



        previewWindow.Closed += (o, e) =>
        {
             var result = previewWindow.DialogResult;
             if (result.HasValue)
                 tcs.SetResult(result.Value);
             else
                 tcs.SetResult(false);
         }
         previewWindow.Show();
    }

    return tcs.Task;
}

Тогда позвони

 var shouldPrint = await PrintPreview(foo, cancel);
 if (shouldPrint)
     await PrintAsync(foo);