Я не мог найти ничего по теме здесь. Возможно, я ищу неправильные термины. Мой вопрос таков:
«Предположим, вы выполняете QR-разложение mxn-матрицы X, используя отражения Хаусхолдера, чтобы решить линейное уравнение Xb = y. На каждой итерации R = Qi*Qi-1*...Q1*X, прогрессируя к верхней треугольной матрице.Если округление с конечной точностью приводит к тому, что значения R, которые по определению должны быть тождественно равными нулю, становятся некоторым ненулевым значением порядка машинного эпсилон, лучше округлить это значение до нуля или оставить так?»
Большое спасибо.