Я вот не понимаю, почему 1.1+2.2 это не 3.3 если комп это вычисляет. Я пытаюсь понять работу двоичных чисел с плавающей запятой... но я даже не уверен, что причиной является поплавок. не могли бы вы объяснить это мне?, я не смог найти четкого...

Я использую пакет R xtable для распечатки своих фреймов данных в виде таблиц LaTeX. Я использовал параметр digits , чтобы указать количество значащих цифр для значений в моих таблицах. Однако с digits=3 я получаю такие результаты, как: ......

ОС: Win 7 64bit. Матлаб: 2014а, 2015а Когда я создаю вектор следующим образом: a = 0.2:0.2:1 Я получил: a = 0.2000 0.4000 0.6000 0.8000 1.0000 что ожидается. Теперь, когда я хочу увидеть, существует ли 0,6 в моем...

я пробовал этот запрос значащих цифр из этого блога ( https://www.garysieling.com/blog/postgres-significant-figures-pg_size_pretty ). Но, кажется, на нем фиксированная десятичная цифра. SELECT FLOOR(5.4321/(10 ^ FLOOR(log(5.4321)-1))) * (10 ^...

У меня есть столбец с чрезвычайно большим набором значений (> 21k) с неопределенным количеством десятичных знаков, некоторые существующие данные образца (FLOAT): 6.46 0.784 8.05 86.4 2.64 0 2.14 1E-06 14.81 3.45 0.87243 0 1.12279 0 21.41 0.6243...