Вопросы по теме 'rounding'
Правильно ли сравнивать два округленных числа с плавающей запятой с помощью оператора ==?
Или есть шанс, что операция не удастся?
Спасибо.
Я выбрал неправильный термин, и на самом деле я имел в виду округление до 0, а не усечение.
Дело в том, что мне нужно сравнить целочисленную часть двух двойников, и я просто привожу их к int, а...
3992 просмотров
schedule
01.01.2023
Почему .NET по умолчанию использует банковское округление?
Согласно документации, метод decimal.Round использует округление до четности алгоритм, который не является обычным для большинства приложений. Поэтому я всегда заканчиваю тем, что пишу специальную функцию, чтобы сделать более естественный...
62716 просмотров
schedule
10.06.2023
Почему SQL Server округляет результаты деления двух целых чисел?
У меня есть таблица со столбцом smallint, который содержит проценты в виде целых чисел (т. е. 50, 75, 85 и т. д.).
Когда я делю этот столбец на 100, как в
SELECT MY_COLUMN/100 AS PCT_AS_FRACTION
FROM MY_TABLE
результат округляется до...
39635 просмотров
schedule
06.04.2022
Почему xls2csv Spreadsheet :: XLSX :: Utility2007 округляется до двух десятичных знаков?
Я пишу сценарий Perl / Tk, который отображает листы Excel, используя пример сценария ss2tk из модуля Spreadsheet :: Read. Он не округляет два десятичных знака, а функция из Spreadsheet :: XLSX :: Utility2007 округляет до двух десятичных знаков....
1205 просмотров
schedule
20.01.2023
Как использовать выражение для float?
Я знаю, что это действительно глупый вопрос, но я не знаю, как это сделать в bash:
20 / 30 * 100
Должно быть 66.67 , но expr говорит 0 , потому что не поддерживает float. Какая команда в Linux может заменить expr и выполнить это уравнение?
54571 просмотров
schedule
24.06.2023
C# — математический раунд
Я пытаюсь понять, как округлить до ближайшей десятой позиции с С#. Например, у меня есть значение типа double. Этот двойник в настоящее время установлен на 10,75. Однако мне нужно округлить, а затем обрезать все после десятых позиций. В этом...
47301 просмотров
schedule
08.03.2024
Округление до ближайших конечных цифр
У меня есть следующая функция, которая округляет число до ближайшего числа, заканчивающегося цифрами $nearest , и мне было интересно, есть ли более элегантный способ сделать то же самое .
/**
* Rounds the number to the nearest digit(s).
*
*...
1421 просмотров
schedule
15.05.2023
Круглые изображения с asp.net
Могу ли я создавать круглые изображения с помощью asp.net? Пожалуйста, порекомендуйте. Мое требование - загрузить любое изображение и получить округленную версию созданного bu asp.net. Я использую .Net framework 3.5, visual studio .net 2008....
1632 просмотров
schedule
23.09.2023
округлить BigDecimal до ближайших 5 центов
Я пытаюсь понять, как округлить денежную сумму вверх до ближайших 5 центов. Ниже показаны мои ожидаемые результаты
1.03 => 1.05
1.051 => 1.10
1.05 => 1.05
1.900001 => 1.10
Мне нужно, чтобы результат имел точность 2...
27926 просмотров
schedule
18.10.2022
Округлить разделенное число в Bash
Как мне округлить результат из двух разделенных чисел, например.
3/2
Как когда я делаю
testOne=$((3/2))
$testOne содержит «1», хотя должно было быть округлено до «2», поскольку ответ от 3/2 = 1,5
152669 просмотров
schedule
07.06.2023
Ошибка округления значений с использованием .round в Ruby
Следующий фрагмент кода отлично работает в скрипте/консоли, но возвращает следующую ошибку, когда я компилирую то же самое в скрипте ruby:
:in `round': wrong number of arguments (1 for 0) (ArgumentError)
tf={"ph"=>{0=>1.33333333333333,...
1046 просмотров
schedule
10.07.2023
Ошибка System.Math.Round?
Я писал функцию для округления числа до двух знаков. И я нашел ошибку, когда пытался округлить определенные значения. Итак, я запустил код:
class Program {
static void Main(string[] args) {
int limit = 100;
for (int number =...
702 просмотров
schedule
05.12.2022
Как округлить до ближайшего числа X - псевдокод для VBScript
Я пытаюсь округлить число до ближайшего, скажем, 15, 20, 30. т.е.
726 с точностью до 30 составляет 700
714 с точностью до 15 - это 700 и т. Д.
Код VBScript был бы очень полезен, но псевдокод также был бы огромным подспорьем!...
9643 просмотров
schedule
24.02.2022
Самый простой способ добавить границу CSS, тень и закругленные углы для моего контента
Хорошо, у меня неплохо работает мой сайт здесь: http://www.marioplanet.com
Но я понял, что если монитор конечного пользователя достаточно большой, чтобы отображать анимацию по бокам страниц (что в основном может быть на каждом мониторе...
4678 просмотров
schedule
10.10.2022
Методология Math.Round, начиная с наименьшего десятичного знака
Было создано много тем из-за путаницы в том, как работает Math.Round . По большей части на них отвечают, намекая людям на параметр MidpointRounding и на то, что большинство людей ожидают MidpointRounding.AwayFromZero . У меня есть еще один...
683 просмотров
schedule
27.03.2023
Минимальная точность PHP для числа
У меня есть список чисел из базы данных в диапазоне от 0,001 до 10, и мне нужно отобразить их с минимальной точностью до 2 знаков после запятой, но без максимальной точности.
Примерные цифры и ожидаемая конверсия:
1 -> 1.00
0.1 -> 0.10...
2675 просмотров
schedule
21.06.2022
Получение округленного значения из двойного результата
Я хочу отобразить чистую сумму расчета в двух текстовых полях
if netamount = 45.60
первое текстовое поле должно показывать округленное значение, а следующее текстовое поле должно показывать округленное значение.
Раньше я делал это с...
1222 просмотров
schedule
18.12.2022
Как округлить все значения в матрице?
Я использую следующий метод для хранения всех корреляций в матрице:
corrs <- cor(dataset, use="pairwise.complete.obs")
Но теперь я хотел бы округлить значения до двух цифр после запятой. Как я могу это сделать? Я только что нашел круглую...
38439 просмотров
schedule
21.01.2023
Округление до степени 10
У меня есть переменная tauMax , которую я хочу округлить в большую сторону до ближайшей степени десяти (1, 10, 100, 1000...). Я использую приведенное ниже выражение, чтобы найти ближайшее целое число к максимальному значению в массиве тау. Я...
18621 просмотров
schedule
30.07.2022
iPhone - округление числа с плавающей запятой не работает
Я не могу добиться округления поплавка.
Все эти вызовы возвращают мне 3,5999999, а не 3,6 для theoTimeoutTrick и theoTimeout. Как я могу получить это значение 3,6 в NSString AND float vars?
#define minTimeout 1.0
#define defaultNbRetry 5...
541 просмотров
schedule
22.07.2022
